AI 發展，可以繞開 Web 2.0 時代的壟斷彎路？
從調查亞馬遜，到單挑 Facebook，美國最年輕的 FTC 主席莉娜·可汗是全球科技監管領域的「鐵娘子」。
由 ChatGPT 帶火的最新一波 AI 浪潮興起之時，可汗在 NYT 上寫下署名文章，闡明對於巨頭正在爭搶的 AI 賽道，FTC 必須要加強監管。
以下為莉娜·可汗關於 AI 監管的全文：
與 AI 進行仿真的對話，既令人興奮又令人不安。由於生成式 AI 的快速發展，我們中的許多人，現在已經體驗到了這種潛在的革命性技術，它對世界各地人們的生活、工作和交流方式都產生了巨大的影響。
生成式 AI 的全部潛力仍有待討論，但毫無疑問，它將是高度顛覆性的。
上一次，我們發現自己面臨由科技帶來的廣泛的社會變革，還是 2000 年代中期，Web 2.0 時代的開始。像 Facebook 和Google這樣的新型科技公司，徹底改變了傳統的通訊方式，併為快速增長的使用者群體，提供了創新的服務。
然而，這些創新服務是以高昂的代價換來的。
我們最初設想的免費服務，最終通過對使用這些服務的人和企業，進行廣泛監控，從而完成了商業化。其結果是形成了一種「網路經濟（online economy）」，而在這種經濟中，提供越來越多的基本服務的前提是，廣泛地囤積和出售使用者的個人資料。
這種商業模式促使科技公司想方設法地來追蹤使用者，甚至不惜違法法律。少數的這幾家巨頭，使用用了一些激進的策略，像是收購，或封鎖有潛在威脅的公司，從而鞏固自己的主導地位。
一系列革命性的技術，最後卻淪為對一些關鍵服務的加強，並定型成了以使用者的隱私和安全為代價的商業模式。
但是，Web 2.0 時代的發展軌跡，並不是不可避免的——它是由廣泛的政策選擇所決定的。
而現如今，我們面臨著另一個關鍵的抉擇時刻：AI 技術的應用越來越廣泛，政府官員有責任確保其發展不會重蹈覆轍。
隨著各家公司競相部署 AI，並從中獲利，聯邦貿易委員會（FTC）正在仔細研究，如何才能最好地實現我們的雙重任務，即促進公平競爭，和保護美國人免受不公平或欺騙性行為的影響。
隨著 AI 技術的發展，我們將致力於盡我們的職責，維護美國長久以來的傳統——維持開放、公平和競爭的市場。正是這樣的市場支撐著突破性的創新，和我們國家的經濟成功，絕不能容忍大規模剝削使用者的商業模式或做法。
雖然這些工具是新的，但它們仍受現有規則的約束。而且，即使在這個新的市場，聯邦貿易委員會（F.T.C.）也會積極地執行我們負責管理的法律。
雖然 AI 技術正在迅速發展，但一些風險已經顯露出來。
首先是，隨著 AI 技術的應用範圍不斷擴大，現有科技巨頭的「主導地位」會得到強化。
這意味著，少數強大的企業，控制著其他公司和初創企業，開發和部署 AI 工具所必需的原材料，包括雲服務（cloud services）和算力（computing power），以及大量的資料。
這些佔據主導地位的公司，可以通過控制這些關鍵投入，來打壓下游的競爭對手，從而鞏固自己的地位。對此，執法者和監管者必須保持高度警惕。
此外，企業用來制定各種價格的 AI 工具（從洗衣粉到保齡球道預訂等），還會助長哄抬價格的合謀行為，以及各種形式的價格歧視。
值得強調的是，執法者的責任是「雙重」的。這意味著，我們不僅要防範 AI 技術帶來的危險，還要促進公平競爭，以確保這些技術的市場合法發展。
聯邦貿易委員應當充分發揮法律管轄權，來處理快速發展的 AI 技術帶來的問題，包括串通、壟斷、兼併、價格歧視和不正當競爭。
其次，生成式 AI 還有可能助長欺詐行為。
雖然，它可能還沒有準備好取代專業作家，但它已經可以比普通的網路騙子，更好地捏造一個看似真實的資訊，使騙子們能夠快速而廉價地生成內容。
聊天機器人已經被用來生成詐騙性質的釣魚郵件（spear-phishing emails）、虛假網站和虛假消費者評論。AI 機器人甚至被命令使用針對特定群體和社區的詞彙或短語。例如，詐騙者可以根據使用者的社交媒體帖子，起草高度針對性的釣魚郵件。除了製作換臉視訊（deep fake videos）和語音克隆的工具外，這些 AI 技術還可以被用來進行大規模的欺詐和敲詐。
在針對這些 AI 詐騙行為執法時，我們不僅要打壓部署這些 AI 工具的獲得蠅頭小利的騙子，還要關注這些工具背後的上游公司。
最後，還值得注意的是，這些 AI 工具正在接受大量不受檢查的資料庫的訓練。
由於，訓練資料可能包括充滿錯誤和偏見的資訊，這些 AI 工具就很有可能使「歧視自動化 (automating discrimination)」——不公平地將部分人排除在工作、住房或關鍵服務之外。這些工具還可以在私人電子郵件、聊天記錄和敏感資料上進行訓練，最終暴露個人隱私並侵犯使用者隱私。
因此，針對 AI 技術，現有的禁止歧視的法律將繼續適用；同時，禁止剝削性收集或使用個人資料的法律也將適用。
二十年前，科技公司的成長史可以作為一個「反面教材」，警示我們應該如何思考生成式 AI 的擴張。但歷史也提供了科技技「造福社會」的經驗。
20 世紀 60 年代末，面對反壟斷審查，計算機巨頭 IBM 公司，將軟體從其硬體系統中分拆出來，促進了美國軟體業的崛起，並創造了數萬億美元的增長。這時，政府要求 AT&T 開放其專利庫，同樣釋放了數十年的創新，刺激了無數初創公司的發展。
美國政府對「促進公平、公開競爭」的「長期承諾」，是使這個國家成為經濟強國和創新大國的一個重要部分。
現在，我們再次處於一個關鍵的決策點。美國能否抵制競相壓價的商業模式和壟斷性的資本控制，從而繼續成為世界先進技術的「故鄉」？
答案是：可以的，如果我們做出正確的政策選擇。
作者：Lina Khan
來源：https://www.nytimes.com/2023/05/03/opinion/ai-lina-khan-ftc-technology.html
