我們都與聊天機器人進行了某種互動。它通常是網站角落的一個小彈出視窗，提供客戶支援 - 通常導航起來很笨拙 - 而且幾乎總是令人沮喪的非具體。
但是想象一下，一個由人工智慧（AI）增強的聊天機器人不僅可以熟練地回答您的問題，還可以寫故事，提供生活建議，甚至撰寫詩歌和編寫計算機程式。
OpenAI上週釋出的聊天機器人ChatGPT似乎正在實現這些結果。它引起了很多興奮，有些人甚至認為它可能預示著人工智慧統治人類內容生產者的未來。
ChatGPT做了什麼來預示這種說法？它（及其未來的迭代）如何成為我們日常生活中不可或缺的？
ChatGPT能做什麼？
ChatGPT建立在OpenAI以前的文字生成器GPT-3之上。OpenAI 透過使用機器學習演算法來處理大量文字資料（包括書籍、新聞文章、維基百科頁面和數百萬個網站）來構建其文字生成模型。
透過攝取如此大量的資料，模型可以學習語言的複雜模式和結構，並獲得解釋使用者請求的所需結果的能力。
ChatGPT 可以在訓練資料中構建知識的複雜和抽象表示，並利用這些表示來產生輸出。這就是為什麼它編寫相關內容，而不僅僅是在語法上正確的廢話。
雖然 GPT-3 旨在繼續文字提示，但 ChatGPT 經過最佳化，可以進行對話互動、回答問題並提供幫助。下面是一個示例：
來自 ChatGPT 介面的螢幕截圖，因為它解釋了圖靈測試。
ChatGPT 透過正確回答我問本科生和研究生的考試問題（包括需要編碼技能的問題）立即吸引了我的注意力。其他學者也有類似的結果。
一般來說，它可以就廣泛的主題提供真正翔實和有用的解釋。
ChatGPT甚至可以回答有關哲學的問題。
ChatGPT作為寫作助手也很有用。它在起草文字和提出看似“原創”的想法方面做得不錯。
ChatGPT可以給人一種頭腦風暴“原創”想法的印象。
反饋的力量
為什麼ChatGPT看起來比過去的一些同行更有能力？其中很多可能歸結為它的訓練方式。
在其開發過程中，ChatGPT展示了人類AI培訓師之間的對話，以展示所需的行為。雖然有一個類似的模型以這種方式訓練，稱為InstructGPT，但ChatGPT是第一個使用這種方法的流行模型。
它似乎給了它一個巨大的支援。結合人工反饋有助於引導 ChatGPT 朝著產生更有用的響應和拒絕不適當的請求的方向發展。
ChatGPT 經常透過設計拒絕不適當的請求。
拒絕接受不適當的輸入是提高人工智慧文字生成器安全性的特別大一步，否則可能會產生有害內容，包括偏見和刻板印象，以及假新聞、垃圾郵件、宣傳和虛假評論。
過去的文字生成模型因反芻訓練資料中包含的性別、種族和文化偏見而受到批評。在某些情況下，ChatGPT 成功地避免了強化這種刻板印象。
在許多情況下，ChatGPT 避免強化有害的刻板印象。在這個軟體工程師名單中，它提供了男性和女性聽起來的名字（儘管都是非常西方的）。
儘管如此，使用者已經找到了逃避其現有保障措施併產生有偏見的迴應的方法。
系統經常接受編寫虛假內容的請求這一事實進一步證明了它需要改進。
儘管有保障措施，ChatGPT仍然可能被濫用。
克服限制
ChatGPT 可以說是最有前途的 AI 文字生成器之一，但它並非沒有錯誤和限制。例如，程式設計建議平臺Stack Overflow暫時禁止聊天機器人回答，因為缺乏準確性。
一個實際問題是 ChatGPT 的知識是靜態的；它不會實時訪問新資訊。
但是，它的介面確實允許使用者透過指示理想答案並報告有害、錯誤或無益的響應來提供有關模型效能的反饋。
OpenAI打算透過將這些反饋整合到系統中來解決現有問題。使用者提供的反饋越多，ChatGPT 就越有可能拒絕導致不良輸出的請求。
一個可能的改進可能是根據使用者反饋新增“置信度指示器”功能。這個工具可以建立在 ChatGPT 之上，它將表明模型對其提供的資訊的信心——讓使用者決定是否使用它。一些問答系統已經這樣做了。
新工具，但不是人類的替代品
儘管有其侷限性，但ChatGPT對於原型來說效果出奇地好。
從研究的角度來看，它標誌著人類對齊的人工智慧系統的開發和部署取得了進步。在實際方面，它已經足夠有效，可以進行一些日常應用。
例如，它可以用作谷歌的替代品。雖然谷歌搜尋需要你篩選許多網站並深入挖掘以找到所需的資訊，但 ChatGPT 直接回答你的問題——而且通常做得很好。
在某些情況下，ChatGPT（左）可能被證明是比谷歌搜尋更好的快速答案。
此外，隨著使用者的反饋和更強大的 GPT-4 模型的出現，ChatGPT 將來可能會顯著改進。隨著ChatGPT和其他類似的聊天機器人變得越來越流行，它們可能會在教育和客戶服務等領域得到應用。
然而，雖然 ChatGPT 最終可能會執行一些傳統上由人完成的任務，但沒有跡象表明它會很快取代專業作家。
雖然它們的能力甚至明顯的創造力可能會給我們留下深刻印象，但人工智慧系統仍然是其訓練資料的反映，並且不像人類那樣具有原創性和批判性思維的能力。
