文 | 深觀商業(yè)
從生成式 AI 的驚艷亮相引起全球科技巨頭軍備競賽般的投入開始，整個 AI 行業(yè)仿佛被注入了無限的想象力。似乎在宣告著即將出現(xiàn)一個生產(chǎn)力即將被徹底解放、商業(yè)模式即將被完全顛覆的光明未來。
微軟、谷歌、亞馬遜等云巨頭紛紛將資本支出的絕大部分押注于 AI 基礎(chǔ)設(shè)施建設(shè)，而無數(shù)逐利而來的 AI 初創(chuàng)公司，更是如雨后春筍般涌現(xiàn)試圖分一杯羹，全球 AI 領(lǐng)域的投資額也達到了史無前例的高度。
然而，正如任何過熱的淘金熱最終都會迎來冷靜期當技術(shù)以超乎預期的速度普及時，潛在的負面效應也以同樣的速度被放大，正在悄然侵蝕著行業(yè)參與者。
從 " 可選項 " 到 " 必選項 " 的巨額支出
根據(jù)奇安信集團對外發(fā)布《2024 人工智能安全報告》來看，在 2023 年基于 AI 的深度偽造欺詐便已暴增了 3000%，基于 AI 的釣魚郵件也增長了 1000%；而內(nèi)容生成環(huán)節(jié)更是實現(xiàn)規(guī)?；a(chǎn)。
基于 Stable Diffusion 和 GPT-4 的定制模型，可每小時生成 2000 條偽原創(chuàng)研報、800 段逼真視頻。暗網(wǎng)平臺 "DarkGPT" 更是提供包月服務，1 萬美元即可獲得每日 5000 條金融虛假內(nèi)容的產(chǎn)能。
而且 "AI 濫用 " 的后遺癥并不僅僅在社會新聞版塊，可以說它已經(jīng)穿透了科技公司的防火墻直接作用于其財務報表。而金融行業(yè)正是這場風暴的中心，當 AI 以假亂真的能力被精準地應用于金融詐騙時，其破壞力可以說是指數(shù)級的增長。
據(jù)行業(yè)估算，2024 年由深度偽造技術(shù)引發(fā)的各類欺詐造成的全球經(jīng)濟損失已高達 120 億美元。尤其在監(jiān)管相對滯后、交易更為匿名的加密貨幣領(lǐng)域，AI 濫用更是如魚得水。根據(jù)相關(guān)的報告也顯示 2024 年僅 AI 深度偽造技術(shù)全年造成的損失便高達 46 億美元。
隨著 AI 濫用事件的頻發(fā)，過去模糊的 " 倫理指南 " 正在迅速轉(zhuǎn)變?yōu)榫哂袕娭萍s束力的法律條文，而且這種轉(zhuǎn)變直接導致了企業(yè)合規(guī)成本的急劇攀升。
而且一旦出現(xiàn)違規(guī)需要付出的代價更是慘痛的，罰款最高可達全球年營業(yè)額的數(shù)個百分點或數(shù)千萬歐元，而且合規(guī)也不再是法務部門的單一工作，而是滲透到研發(fā)、產(chǎn)品、市場的每一個環(huán)節(jié)。
這些 " 反噬 " 也并非憑空產(chǎn)生，在 AI 商業(yè)化過程中對速度和規(guī)模的追求，長期以來壓倒了對安全和倫理的考量所以形成了這種 " 原罪 "。因此未來合規(guī)成本的升高是不可避免的，而歐盟的《AI 法案》可以說是這一趨勢的先行者。
該法案于 2024 年 8 月 1 日正式生效并分階段實施，著重對高風險的 AI 系統(tǒng)施加了嚴格的合規(guī)要求。而且這不僅僅是一項區(qū)域性法規(guī)，更可能產(chǎn)生 " 布魯塞爾效應 " 從而影響全球的 AI 監(jiān)管格局。
監(jiān)管的落地也將會直接轉(zhuǎn)化為企業(yè)的合規(guī)成本。據(jù)公開信息推算，僅歐盟 AI 法案便可能導致歐洲企業(yè)的 AI 采納成本增加約 310 億歐元，并使 AI 投資減少近 20%。而美國聯(lián)邦貿(mào)易委員會也已對 OpenAI 展開調(diào)查，谷歌等公司也不得不調(diào)整其營銷話術(shù)，避免被處以巨額罰款。
可以說 " 監(jiān)管的鐵幕 " 正在迫使整個行業(yè)從過去 " 快速行動，打破陳規(guī) " 的互聯(lián)網(wǎng)思維轉(zhuǎn)向一種更為審慎、合規(guī)驅(qū)動的開發(fā)模式?？梢哉f這種轉(zhuǎn)變無疑會減緩創(chuàng)新速度并增加運營成本，對于那些資源有限的中小企業(yè)和初創(chuàng)公司構(gòu)成尤為嚴峻的挑戰(zhàn)。
對 " 信任 " 的侵蝕或許是 AI 濫用最難修復的一種
這源于在激烈的競爭壓力下，企業(yè)急于搶占市場將產(chǎn)品快速推向用戶，所以將風險控制和安全測試置于次要位置。但是這種 " 快速行動并打破規(guī)則 " 的心態(tài)在 AI 時代尤為危險，因為 AI 技術(shù)的潛在破壞力遠超以往的軟件應用。
并且市場對于 AI 技術(shù)的可靠性極度敏感，甚至一次小小的失誤都可能引發(fā)巨大的信任危機和財務損失。谷歌的 Bard 模型之前便在一次演示中出現(xiàn)事實性錯誤，竟然導致其母公司 Alphabet 的股價在單日內(nèi)暴跌 7%，市值蒸發(fā)超過 1000 億美元。
并且隨著 AI 投資的巨額支出持續(xù)攀升，投資者開始擔憂其回報前景，這種悲觀情緒導致 Meta、Microsoft、Alphabet 和 Nvidia 等 AI 領(lǐng)域的領(lǐng)軍企業(yè)股價普遍承壓下跌，市場也開始討論 "AI 泡沫 " 的風險，并開始質(zhì)疑哪些不計成本的 " 軍備競賽 " 式投資。
更何況大量公司缺乏對 AI 倫理的明確責任歸屬，高管層面也并未對其有所調(diào)整。所以 AI 系統(tǒng)的決策過程像一個 " 黑箱 "，在責任主體模糊的情況下濫用和誤用的風險便難以控制。企業(yè)內(nèi)部也未建立有效的問責機制。
但是更深層次的原因在于當前主流生成式 AI 商業(yè)模式本身所內(nèi)含的風險。這些模型依賴于海量數(shù)據(jù)的投喂，其訓練過程難以完全避免偏見和有害信息的吸收。而其強大的生成能力卻為惡意利用提供了溫床。
因此當商業(yè)模式的核心是追求更強大的模型、更廣泛的應用時，如果缺乏與之匹配的強大 " 安全剎車 " 系統(tǒng)，濫用就成了可預見的副產(chǎn)品。這種商業(yè)邏輯與倫理要求之間的結(jié)構(gòu)性失衡才是導致 " 反噬 " 的根本內(nèi)因。
所以當企業(yè)享受了技術(shù)紅利帶來的增長，如今便也不得不為其模式所伴生的風險 " 買單 "。哪怕科技公司以 " 讓世界更美好 " 的敘事推廣 AI，公眾在實際體驗中，也會頻繁受到隱私泄露、算法偏見、就業(yè)替代、虛假信息等負面影響。
這種落差也導致了廣泛的 "AI 焦慮 " 和不信任感。公眾普遍認為現(xiàn)有的監(jiān)管法規(guī)不足以應對 AI 帶來的社會風險期望政府采取更加果斷的行動。這種強大的民意壓力也是推動監(jiān)管機構(gòu)加速行動的根本動力。
面對公眾的呼聲和潛在的社會風險，監(jiān)管機構(gòu)的介入是必然的。但由于技術(shù)發(fā)展的速度遠超立法速度監(jiān)管往往表現(xiàn)出一定的滯后性，歐盟 AI 法案便被部分人士認為可能增加企業(yè)負擔、抑制創(chuàng)新。
全球主要經(jīng)濟體在 AI 領(lǐng)域的競爭，也使得監(jiān)管變得更加復雜。各國都希望在鼓勵創(chuàng)新和防范風險之間找到平衡點但這種平衡點的位置各不相同，因此形成了復雜的國際監(jiān)管格局給跨國企業(yè)的合規(guī)帶來了巨大挑戰(zhàn)。
而且這種外部濫用對整個 AI 行業(yè)的聲譽造成了 " 連坐 " 效應。即使一家公司本身恪守倫理，也無法完全獨善其身，因為公眾對 AI 的信任是整體性的。惡意濫用行為如同向池塘中投下的毒藥，在污染了整個水域后迫使所有 " 池中生物 " 共同承擔后果。
這場危機成為 AI 自我革新的契機
這場 " 反噬 " 帶來的陣痛，是 AI 產(chǎn)業(yè)從野蠻生長走向規(guī)范發(fā)展的必經(jīng)階段。它正在淘汰那些只想賺快錢、缺乏責任感的 " 玩家 "，篩選出真正有實力、有遠見的長期主義者。從長遠來看，這也是為 AI 產(chǎn)業(yè)的健康、可持續(xù)發(fā)展所必須付出的代價。
其中最大的機遇在于將 " 信任 " 從一種道德呼吁，轉(zhuǎn)變?yōu)橐环N可量化、可變現(xiàn)的商業(yè)資產(chǎn)和競爭壁壘。數(shù)據(jù)顯示近 85% 的客戶也更愿意與重視 AI 倫理實踐的公司合作，而那些優(yōu)先考慮倫理和透明度的公司收入增長也更快。
可以說在 AI 產(chǎn)品同質(zhì)化日益嚴重的未來，誰能贏得用戶的信任誰就能贏得市場。" 負責任的 AI" 將不再僅僅是公關(guān)部門的口號，而是必須貫穿于產(chǎn)品設(shè)計、開發(fā)、部署全流程的核心戰(zhàn)略。
谷歌和微軟等公司已經(jīng)開始調(diào)整其策略，谷歌選擇利用 AI 技術(shù)提升廣告安全審核的效率，打擊欺詐內(nèi)容；微軟則發(fā)布了負責任 AI 透明度報告，并推出了 AzureAIContentSafety 等服務，幫助客戶構(gòu)建更安全的 AI 應用。這些舉措既是應對風險的防御，也是在構(gòu)建新的競爭優(yōu)勢。
正是 " 反噬 " 催生了全新的 " 安全即服務 " 市場。隨著 AI 濫用風險的加劇企業(yè)對 AI 安全審計、風險評估、內(nèi)容過濾、合規(guī)咨詢等服務的需求將急劇增長。這為專門從事 AI 安全和倫理治理的科技公司、咨詢機構(gòu)創(chuàng)造了巨大的市場空間。
而科技巨頭自身也可以將其內(nèi)部成熟的安全工具和能力平臺化、服務化，開拓新的收入來源。例如，谷歌和微軟在內(nèi)容審核、風險識別方面的技術(shù)積累，完全可以轉(zhuǎn)化為對外輸出的商業(yè)服務。
雖然監(jiān)管的收緊雖然帶來了成本，但也為行業(yè)設(shè)定了 " 準入標準 "，能夠率先滿足高標準合規(guī)要求的企業(yè)將獲得更強的市場公信力和競爭優(yōu)勢，從而在未來的市場整合中占據(jù)有利地位。這實際上是一種由監(jiān)管驅(qū)動的市場出清和格局優(yōu)化。
從濫用事件的激增，到資本市場的審慎，再到全球監(jiān)管的收緊，這股 " 反噬 " 之力正在重塑 AI 產(chǎn)業(yè)的發(fā)展軌跡。它迫使整個行業(yè)從過去對技術(shù)力量的無限崇拜，轉(zhuǎn)向?qū)夹g(shù)責任和社會價值的深刻反思。
麥肯錫預測，到 2030 年 AI 將為全球經(jīng)濟創(chuàng)造 13 萬億美元價值。但價值分配取決于我們?nèi)绾务{馭這頭猛獸。未來的競爭，將不僅僅是模型參數(shù)和算力大小的競爭，更是治理能力、責任擔當和用戶信任的競爭。
