Sora 爆紅後怎麼防「AI 造假」？這家融資 1 億鎂的新創可以幫你！

人工智慧（AI）的發展速度實在是太驚人了！

就在春節期間，Sora 模型橫空出世，可以生成 60 秒的高清影片，逼真效果甚至超越了之前的 Runway 和 Pika 等影片生成工具。而就在昨晚，Google 開源了 Gemma 大模型，能夠在筆記本電腦上輕鬆運行，這意味著普通人現在也可以輕鬆接觸到 AI 技術。

然而，技術的迅猛更迭也帶來了更多人對於「深度偽造」的恐慌。由 AI 生成的圖片和影片足以迷惑肉眼，讓人真假難辨。

早在 1 月底，美國流行歌手「Taylor Swift」就因為 AI「不雅照」事件引發了軒然大波，甚至引起了白宮的關注。更有甚者，香港一家跨國公司被 AI 詐騙團伙偽造其高階主管參會，損失慘重達 1.8 億人民幣。

為了緩解個人和企業對 AI 安全性的擔憂，Clarity 這家 AI 網路安全新創公司應運而生。憑借獨特的專利演算法和前沿技術，Clarity 能夠精準識別並打擊深度造假行為，確保網路資訊的真實性和可信度。

Clarity 不僅旨在幫助更多人避免成為 AI 技術濫用的「犧牲品」，更希望為整個產業的健康發展注入新的活力。

---

一、1 分鐘項目速覽

項目名稱：Clarity

成立時間：2022 年

產品簡介：

Clarity 是一個打擊深度造假的 AI 檢測平台。利用專利演算法，Clarity 能精確檢測影片、圖像和音頻中的篡改，並通過加密浮水印確保內容真實。各大組織通過整合 Clarity 的解決方案，能夠加強其對數位欺騙的防禦能力，從而全面保障內容與資產的安全。

創辦人團隊：

• Michael Matias：曾在史丹佛大學學習 AI，曾擔任以色列「8200 情報部隊」官員，同時也是 70 多家深度技術新創企業的天使投資人。
• Natalie Fridman：計算機科學博士，巴伊蘭大學計算機科學講師。
• Gil Avriel：畢業於哈佛大學甘迺迪學院和喬治城法學院（第一名），曾在以色列總理辦公室國家安全委員會擔任高級主管（14 年）。

融資情況：

2024 年 2 月，Clarity 獲得了由 Walden Catalyst Ventures 和 Bessemer Venture Partners 領投的 1,600 萬美元種子投資。

---

二、群英薈萃，對深度偽造「重錘出擊」

隨著 AI 技術的發展，深度偽造（Deepfakes）也隨之而來。

Pew Research 最近的一項調查發現，66% 的美國人表示，他們「至少有時」會遇到被篡改或者完全虛構的內容；63% 的人表示，捏造或更改的圖像或影片會導致人們對於時事的「認知混亂」。

美聯社和芝加哥大學的另一項民意調查則發現，58% 的成年人認為 AI 工具將導致選舉錯誤資訊。據估計，到 2026 年，90% 的線上內容將由 AI 生成。

由於創建深度偽造所需的工具越來越容易獲得、價格越來越便宜，虛假照片、影片現已如洪水般泛濫。在 AI 生成內容的時代，新聞的真實性和可信度受到了極大的挑戰。

---

快速識別和消滅「病毒」

網路安全新創公司 Clarity 最近籌集了 1,600 萬美元（折合成人民幣約為 1.15 億元）的風險投資資金來對深度偽造進行反擊。這家公司使用 AI 來識別深度偽造創建中常見的模式，使企業能夠快速識別和防範虛假內容。

儘管 Clarity 的核心利用了 AI 技術，但它在本質上仍是一家網路安全公司。

與其它網路安全供應商一樣，Clarity 通過應用程式及其接口來提供掃描工具，該工具利用經過訓練的多個 AI 模型來識別影片、圖像和音頻深層創建技術中的模式。此外，Clarity 還提供了一種浮水印形式，客戶可以用它來表明自己的內容是合法的。

談到和其競爭對手的區別時，Clarity 執行長 Michael Matias 表示，差異化因素並不在於表面，而隱藏於產品內核之中，即 Clarity 對新型深度偽造的快速反應。

Clarity 將深度偽造視為能夠迅速分叉和複製的「病毒」，因此，它的解決方案也是為了分叉和複製而構建的，以保持適應性和彈性。公司團隊還專門建立了相應的基礎設施和 AI 模型，以完美達到這一要求。

---

眾多大佬雲端集

儘管 Clarity 目前僅有 13 名員工，但該公司的創辦人團隊資歷非常雄厚。

執行長：Michael Matias

Matias 曾在以色列「8200 情報部隊」擔任一級幹事，並創建了兩個獲得國防獎的 AI 團隊。隨後，Matias 在史丹佛大學學習 AI，並在 Hippo Insurance 領導 AI 團隊。他是 70 多家深度技術新創企業的天使投資人，也曾是多家風險投資公司的投資團隊成員。

技術長：Natalie Fridman

Fridman 在 AI 和研究產業擁有 10 多年的管理經驗，擅長集體智能、深度學習和自主代理建模。Fridman 曾任 ImageSat International 研發高級副總裁（從成立到上市），擁有 AI 和集體智能博士學位。她發表過超過 25 篇論文，曾是巴伊蘭大學計算機科學的主要講師，擁有多項 AI 演算法專利。

戰略長兼營運長：Gil Avriel

Avriel 畢業於哈佛大學甘迺迪學院和喬治城法學院（第一名），曾在以色列總理辦公室國家安全委員會擔任高級主管（14 年）。在擔任國家安全委員會法律顧問期間，曾就國家安全戰略問題為 8 位國家安全顧問和 4 位總理提供咨詢。

除了卓越的創辦人團隊，Clarity 的顧問委員會成員也都是來自各個產業的頂尖專家，包括史丹佛大學教授 Larry Diamond、加拿大前國防部長 Irwin Cotler 以及前 Google 研究副總裁 Alfred Spector 等。

---

三、各產業聯手清除造假「迷霧」

AI 模型迭代更新，深度偽造技術也在做進一步的提升，這類技術的複雜性已經讓人們很難區分真實與捏造的內容。

「我們的數位生活正遭受著猛烈攻擊，人們說了他們從未說過的話，做了他們從未做過的事情。」Clarity 的聯合創辦人兼執行長 Michael Matias 在一份聲明中表示。

一年前，大多數關於「AI 詐欺」的新聞還幾乎來自大學研究實驗室；一年後，有關 AI 造假的問題已經充斥在我們的生活中。

短短一年時間裡，湧現出了一大波文生圖像、影片以及語音複製模型，例如本月 ElevenLabs 宣佈為 Sora 推出音效模型，可以自動為影片配音。

這些 AI 應用在不知不覺中「幫助」惡意行為者利用廣泛且免費的工具快速生成深度偽造內容。

「隨著語音複製和其它 AI 騙局的增加，保護美國人免受冒充者詐欺比以往任何時候都更加重要。」美國聯邦貿易委員會（FTC）主席 Lina M. Khan 在一份聲明中提到。

為了彌補這一產業漏洞，檢測深度偽造的新創公司正在湧現並不斷壯大，並吸引了大量風險投資。

眾多深度偽造檢測公司，目前正在競相開發深度偽造檢測工具。除了 Clarity 外，還包括 AI 瀏覽器工具 Reality Defender 以及專注於深度偽造圖像和影片的 Sentinel 公司。

Reality Defender 主要提供了一個幫助檢測文件、影片和圖像深度偽造的平台，可以驗證社媒內容是否由 AI 生成或者以某種方式修改。另外，該公司在去年 10 月獲得由 DCVC 領投的 1,500 萬美元 A 輪融資，將用於擴大團隊並改進其 AI 內容檢測模型。

站在解決 AI 深度偽造問題的風口上，不少投資人對 Clarity 持有相當樂觀的態度。美國有線電視新聞網（CNN）前戰略主管 Chris Marlin，作為一名天使投資人的他表示，「生成式 AI 製作的內容和深度偽造的激增有可能造成更大的選民不信任。」

在 1 月末，美國總統大選就出現了 AI 造假問題，有人用 AI 冒充拜登給選民打電話並且影響了大選的討論。此外，美國其它州的選舉也受到 AI 偽造的干擾。

Clarity 將致力於解決這些問題，正如 Chris Marlin 強調，「Clarity 的技術將清除不確定性的迷霧，為選民和政治領導人提供更好的清晰度。」

史丹佛大學社會學和政治學教授 Larry Diamond 也曾表示，「我們很高興能與 Clarity 合作，並提供一個可擴展且值得信賴的平台，任何組織都可以用它來驗證敏感新聞、防止詐欺並建立一個安全的 AI 環境。」

---

四、Clarity 身兼長期發展使命

在被 AI 裹挾的大環境下，如果呼籲監管和立法無法在短期內實現，快速識別和解決深度偽造不失為目前的一個良方。

正如 Clarity 執行長 Matias 所說，「這是一場快節奏的軍備競賽，任何想要解決深度偽造問題的公司都需要像那些創建和傳播深度偽造的公司一樣快速行動。」

目前，Clarity 正在與以色列政府以及一些大型新聞機構合作，而最新的這筆融資將推動 Clarity 的擴張計劃，使該公司能夠加大招聘力度，進一步開發其技術，並在美國市場建立更強大的影響力。

• 本文經授權轉載自：《ForesightNews》
• 原文作者：元宇宙之心