衡宇 Alex 發自 凹非寺
量子位 | 公眾號 QbitAI
AI屆當紅炸子雞
ChatGPT
，剛剛被程式設計師問答社群Stack Overflow
禁用
了！
蕪湖，難道是因為有人感慨，ChatGPT非常強大，可以取代Stack Overflow？
但其實，Stack Overflow給出的官方公告裡，是這樣說的：
（這樣做）
的目的是減緩使用ChatGPT建立的大量答案流入社群。
因為從ChatGPT
得到錯誤答案的機率太高
了！
不過，官方也說了，這個措施只是
臨時
的。
到底要不要永久在社群裡禁用ChatGPT尚待研究，暫未決定。
“回答正確率太低”
昨天，OpenAI的CEO在推特上高興地宣佈，ChatGPT這個出生不滿一週的傢伙，已經擁有了
超百萬
使用者。
不過，大喜之餘，有個小悲，那就是——
Stack Overflow
臨時禁止
在社群內釋出ChatGPT生成的文字。
Stack Overflow，程式設計師meme經常出現的段子之一，把自己活成了ChatGPT爆紅時期最引人注目的段子。
這到底是為什麼？
看了官方給的公告，總結下來不外乎一個原因。
最主要的目的，就是
減緩
使用ChatGPT建立的大量答案流入社群。
目前在Stack Overflow站內搜尋，還能看到公告發布前，許多用ChatGPT在問題下的回答。
Stack Overflow官方認為，和ChatGPT對話得到的答案，
正確率太低
了。
而且，
無論答案正確與否
，它的所有回答看起來都很正兒八經。
但是ChatGPT的火熱和極低的門檻，讓很多人用它建立的答案在社群裡進行詢問和回答。
但是很多人在發帖時，缺乏相關專業知識，在釋出之前又
沒有驗證
一下答案的正確性。
而且，ChatGPT給出回答的訊息源也不能追溯。
對於一個程式設計師問答社群來說，這是
非常有害
的。
為了應對這個現象，可苦了Stack Overflow為管理基礎設施質量的志願者們。
他們只能沒日沒夜在鋪天蓋地的海量帖子中，去確認ChatGPT生成的問答到底是不是對的。
而且對想要找到保真問答的程式設計師來說，ChatGPT
“入侵”
Stack Overflow，也加大了他們的獲取有效資訊的成本。
為了從源頭杜絕這種現象發生，StackOverflow做出決定：先禁止！
目前，Stack Overflow
已經不允許釋出
ChatGPT建立的答案來提問或回答文章了。
臨時措施釋出後，如果還有使用者在用ChatGPT搞事情，那Stack Overflow就不客氣了——
將對這類使用者
實施制裁
（具體咋制裁木有說）
。
還是“格殺勿論”那種，哪怕除了使用ChatGPT外，使用者的提問和回答行為和內容都是符合社群規定的。
現在，只是在站內搜尋“ChatGPT”這個關鍵詞，也因為要證明一下你不是機器人哦～
但無論怎麼說，這個措施怎麼說也只是
臨時
的。
關於ChatGPT和其它類似AI問答軟體，社群到底會有啥樣的最終策略， Stack Overflow工作人員還在緊急討論中，尚不確定。
公告評論區裡，使用者已經七嘴八舌說開了。
有人拍手稱快，嚷著“永久封了它”。
有人也趁機表達了拿AI問答軟體來社群互動的不滿。
當然，也有人投出了自己的贊成票。
語言大模型的應用引起擔憂
再來說下
Stack Overflow
到底是為何物。
簡而言之，這是很多程式設計師都會用到的一個免費問答網站。
該網站有幾個特點，一是不像一般的論壇，它
沒有閒聊區
。
另外，那些觀點類、可能引起激烈討論的問題一般都會被臨時“和諧”掉，得是
能出確切答案的問題
才行。
也就是說，假如你在該網站上提出一個很主觀的問題，網站很可能不會公開顯示出來，直到你把問題修改到合規為止。
新使用者起初只能提出問題或給出回答。但是你可以透過問答等賺積分
（這裡是Reputation）
，然後解鎖各種功能。
包括評論、編輯他人的帖子、選擇隱藏或展示別人的問題，最高等級的使用者還能網站內部的工作人員一起來搞分析維護。
而
ChatGPT
，則是基於語言大模型的聊天AI，能生成程式碼、修復Bug，其回答各種問題的能力更是驚豔了一大波人。
不過，目前Stack Overflow以及不少AI專家已經對背後的
語言大模型
產生了擔憂，至少是有些顧慮。
Lecun也說，基於語言大模型開發出的文字生成類工具，可能會使廣泛傳播錯誤資訊變得更容易。
IBM科學家Grady Booch的態度更為堅定。
還有人指出，即使AI回答正確，但這對於不少內容創作者來說，將是一場不小的打擊。
One More Thing
對於Stack Overflow臨時禁用ChatGPT生成的答案，我們
詢問了ChatGPT本尊
的看法。（手動狗頭）
我們還問，如果StackOverflow確定禁用的話它會怎麼辦。
結果人家倒是很淡定：
ChatGPT傳送門：
https：//chat。openai。com/chat
參考連結：
［1］https：//meta。stackoverflow。com/questions/421831/temporary-policy-chatgpt-is-banned
［2］https：//www。reddit。com/r/programming/comments/zd71vl/chatgpt_ai_generated_answers_banned_on_stack/
［3］https：//stackoverflow。com/tour？mnu=1
—完—
@量子位 · 追蹤AI技術和產品新動態
深有感觸的朋友，歡迎贊同、關注、分享三連վ‘ᴗ’ ի ❤
