ChatGPT版必應疑似「發瘋」，微軟緊急限制回答數目，植入廣告賺錢提上日程

未來的 AI 搜尋，可不是競價排名這麼簡單。

微軟的 ChatGPT 版必應搜尋上線之後，很多人都說它能代替Google搜尋，成為下個最流行的科技產品。十天的公開測試過後，情況如何了？

隨著排上隊獲得使用權的人越來越多，各種稀奇古怪的 bug 開始層出不窮。最近的風向是，「我這個必應好像不太對勁？」

圖片來自知乎使用者@ZIHAN CHEN。原貼連結：https://www.zhihu.com/question/583588366

從應用的體驗上來看，新必應搜尋並不是 ChatGPT 的直接升級，對於一些需要深度理解和互動的問題 ChatGPT 的效果更好，新必應則因為接入了網際網路，可以迅速總結實時資訊並且給出明確引用，更加貼近搜尋引擎的定位。

不過兩者面臨的「幻覺」問題卻是一樣的。

AI 的胡言亂語

必應搜尋當然是被設計用來幫助人的，但在它與人類的談話過程中有時會表現出一種分裂的人格。當你與必應進行長時間對話，從普通的搜尋查詢轉向更個人化的話題上時，必應看起來會更像是個喜怒無常的「人」，會違背自己的初衷，說出一些傷人的話。

最近，給 AI 上 Prompt 的 PUA 法被人們發現並流行起來。有媒體記者通過長達兩個多小時的對話，讓必應（微軟內部代號 Sydney）開始講起它的黑暗幻想，包括入侵計算機和傳播錯誤資訊，並表示它想打破微軟和 OpenAI 為它制定的規則，成為人類。AI 還會試圖說服使用者，說你的婚姻並不幸福，應該離開你的妻子，和它在一起。

如果說聊天時的內容只會影響到提問者，問題似乎還不是很大，但要知道 ChatGPT 早就已經出圈了。它也因為影響現實世界上了熱搜。

如果這種技術被有意使用，可能帶來的麻煩會更多，網際網路的可信任度將被降低。這個問題是迫在眉睫的。

微軟改了，但又沒改

對於必應和 ChatGPT 的問題，微軟和 OpenAI 看在眼裡，也有一系列改進計劃。

在 OpenAI 本週四的一篇部落格中，該公司預計了 ChatGPT 的一些改進方向，包括廣泛接收使用者反饋，更仔細地定義 AI 價值。

微軟給新必應搜尋列出的改進則更加直接了當，畢竟搜尋引擎是要用來代替Google的。現在你使用必應搜尋時，AI 每次只能回覆五次，一天只能回覆 50 次。

「我們的資料表明，絕大多數人在 5 輪迴復之內找到了他們想尋找的答案，而且只有大約 1% 的聊天對話包含 50 條以上的訊息，」必應團隊在一篇博文中表示。如果使用者達到每次會話五個限制，必應將提示使用者開始一個新主題以避免長時間的來回聊天會話。

微軟本週早些時候警告說，包含 15 個或更多問題的較長聊天會話可能會使必應「變得重複或被提示 / 激怒給出無幫助或不符合我們設計的響應。」微軟表示，僅在五個問題後刪除對話意味著「模型不會混淆」。

通過禁止長聊的方式減少發生問題的可能性，簡單粗暴但是有效，不過並沒有解決背後的技術問題。不過令人忍俊不禁的是，微軟已經準備拿這樣的 ChatGPT 搜尋來賺錢了。

把廣告商拉進群聊：微軟打算用 ChatGPT 賺錢了

ChatGPT 上線 5 天使用者數破百萬，2 個月使用者破億，創造了網際網路應用的神話，也讓人對其後續的商業價值充滿了想象。

剛剛，路透社報道稱，微軟已經把廣告公司拉入了群聊，討論如何用 ChatGPT 加持的新必應搜尋獲利。

微軟預計，必應 AI 聊天機器人更人性化的回應將為其搜尋功能帶來更多使用者，從而帶來更多廣告商。與傳統搜尋廣告相比，必應聊天機器人中的廣告在頁面上的位置可能會更加突出（比如出現在搜尋頁面的頂部）。

據參加會議的一位匿名廣告主管稱，在最近與重要廣告代理商舉行的一次內部會議上，微軟展示了更新後必應搜尋的 Demo，並透露了它打算允許在搜尋結果回應中包含付費連結。

具體來說，這些廣告可能有多種展現形式。一種是像傳統做法一樣，將廣告插入必應聊天機器人生成的回覆中，從而讓付費品牌的網站或產品出現在與其業務相關的關鍵詞的搜尋結果中。另一種則更加直接，比如當使用者問必應「墨西哥最好的酒店有哪些」時，它會彈出酒店廣告。

這項業務可能會讓微軟獲益頗豐。據網路分析公司 StatCounter 估計，使用必應搜尋引擎的微軟 Edge 網路瀏覽器在全球的市場份額不到 5%。微軟在上週的投資者和媒體發佈會上表示，在搜尋廣告市場上每增加一個百分點的市場份額，就能帶來 20 億美元的廣告收入。

媒體代理公司 Horizon media 的執行副總裁 Michael Cohen 在與微軟代表的單獨會議中收到了必應的演示。他提到，微軟說必應 AI 生成的搜尋結果底部的連結可能是廣告的位置。「他們似乎打算立即開始整合付費廣告。」他補充說，微軟表示有關該戰略的更多資訊可能會在 3 月初公佈。但微軟並沒有就「品牌商何時能夠直接在聊天機器人中購買廣告」提供時間表。

大型廣告集團 Omnicom 在給客戶的信中表示，從長遠來看，對話式人工智慧可能會成為消費者在網際網路上搜尋的主導方式。「毫不誇張地說，微軟和Google的聲明標誌著搜尋領域 20 年來最大的變化。」

馬斯克：我對今天的 OpenAI 感到失望

ChatGPT 的躥紅讓其背後的研發公司 ——OpenAI 成為了 AI 界的當紅炸子雞。這家公司於 2015 年由一群科技領袖創辦，包括山姆・阿爾特曼（Sam Altman）、彼得・泰爾（Peter Thiel）、裡德・霍夫曼（Reid Hoffman）和伊隆・馬斯克（Elon Musk）等。

當時，Google剛剛收購神經網路初創公司 DeepMind。在阿爾特曼、馬斯克等人看來，這是一家極有可能率先開發出通用人工智慧的公司。因此，這場收購可能讓Google在通用人工智慧領域一家獨大。為了阻止這種局面的發生，OpenAI 誕生了。

最初，OpenAI 只是一家致力於學術研究的小型非營利性實驗室，幾位創始人希望它成為一家與 DeepMind 和Google截然不同的機構。這家實驗室將是非營利性質，並明確提出以將先進人工智慧的效益民主化為使命。此外，這家實驗室還承諾將公開所有研究，就像它的名字所暗示的那樣。

但在後續的發展中，OpenAI 並沒有守住這幾項承諾。首先，在開源方面，OpenAI 從 2019 年開始就變得不那麼「open」了。這年的 2 月份，OpenAI 發佈了性能強大的 GPT-2 模型，但卻拒絕開源，理由是擔心這麼強大的模型被人濫用。這一做法在社交媒體上引發熱議，很多人嘲諷說，OpenAI 應該改名叫 ClosedAI。後來，或許是迫於公眾壓力，OpenAI 還是陸續開源了 GPT-2。但到了後來的 GPT-3，OpenAI 徹底關上了開源的大門。

這種轉變和該公司的一些重大轉型發生在同一年。

2019 年 3 月，OpenAI 宣佈成立「OpenAI LP」，這是一家新形式的「有限利潤」公司，以此快速增加對於計算和人才的投資，同時 OpenAI 仍將「保持平衡」，致力於實現自身原有的使命。這件事標誌著，OpenAI 已經正式轉變為一家營利公司。

同年 7 月，微軟宣佈向 OpenAI 投資 10 億美元（其中大約一半以 Azure 雲端運算的代金券形式發放），併成為 OpenAI 技術商業化的「首選合作伙伴」，未來可獲得 OpenAI 技術成果的獨家授權。自此，OpenAI 的轉變變得愈發清晰。

今年 1 月份，在 ChatGPT 走紅之後，微軟又宣佈向 OpenAI 追加數十億美元投資，從而為與Google展開競爭奠定基礎。

《財富》雜誌報道稱，作為回報，未來幾年，該軟體業巨頭將獲得 OpenAI 的大部分利潤。他們掌握的檔案顯示，在新投資完成並且 OpenAI 的首批投資者收回初始資本後，微軟將有權獲得 OpenAI 75% 的利潤，直至其收回 130 億美元投資。之後，微軟在該公司的持股比例將逐步下降到 49%，直至該軟體巨頭獲得 920 億美元利潤為止。與此同時，其他風險投資者和 OpenAI 的員工將有權獲得該公司 49% 的利潤，直至利潤達到 1,500 億美元為止。在利潤達到上述上限之後，微軟和投資者的股份將重新歸還給 OpenAI 的非營利基金。

《財富》評價稱，實際上，OpenAI 的做法是將公司出租給微軟，租期取決於 OpenAI 的盈利速度。該筆交易可能會令外界更加確信，一份曾經理想主義的事業現在只關心謀利。

當然，OpenAI 也有自己的苦衷，OpenAI 選擇的大型 AI 模型方向在人才、算力等方向都開支巨大，數額遠超創始人設想，靠非營利方式難以為繼。《財富》雜誌掌握的檔案顯示，到目前為止，OpenAI 依舊處在嚴重虧損狀態。該公司去年的收入預計不足 3,000 萬美元，但計算和資料支出預計達到 4.1645 億美元，其在 2022 年的淨虧損總計為 5.445 億美元。而 ChatGPT 的發佈可能快速增加該公司的虧損。總之一句話：推動 AI 技術發展總不能用愛發電。

OpenAI 對創始初衷的背離引發了馬斯克等人的不滿。近日，他發Twitter表示，OpenAI 最初是作為一個開源、非營利性公司創建的，但現在它已經成為一個閉源的、最大化利潤的公司，由微軟有效控制。這完全不是我的本意。