發表
我的網誌
圖/shutterstock
網際網路之父 Vint Cerf 給予主管們一條訊息，不要急著在聊天式人工智慧上投資做交易。
Cerf 週一在加利福尼亞州山景城的一次會議上懇求與會者不要僅僅因為“這是一個熱門話題”就匆忙投資聊天式人工智慧。該警告是在 ChatGPT 大受歡迎之際發出的。
“這裡有一個道德問題，我希望你們其中的一些人能納入考慮，” Vint Cerf 週一對與會者說。“每個人都在談論 ChatGPT 或谷歌(GOOG) 的版本，我們知道它並不總是按照我們希望的方式工作，”他說，指的是谷歌上周宣布的 Bard 聊天式人工智慧。
他的警告來自谷歌等大型科技公司,元宇宙(Meta) 和微軟(MSFT) 努力解決如何在聊天式 AI 領域保持競爭力，同時快速改進一項仍然經常出錯的技術。
Alphabet 董事長 John Hennessy 當天早些時候表示，這些系統距離廣泛使用還有一段距離，而且它們存在許多不準確和“毒性”的問題，在對公眾測試產品之前仍需要解決這些問題。
Cerf 自 2005 年起擔任谷歌副總裁兼“首席互聯網傳播者”。他被稱為“網際網路之父”之一，因為他共同設計了一些用於構建互聯網基礎的架構。
Cerf 警告不要僅僅因為這項技術 “真的很酷” 而受到投資的誘惑。
“如果你認為，‘夥伴，我可以把它賣給投資者，因為這是一個熱門話題，每個人都會向我投資，’請不要那樣做，” Cerf說，這在人群中引起了一些笑聲。“要深思熟慮。你是對的，我們不能總是預測這些技術會發生什麼，老實說，大部分問題是人——這就是為什麼我們人類在過去 400 年裡沒有改變，更不用說過去 4,000 年。
“他們會尋求做對他們有利而不是對你有利的事情，”Cerf 繼續說道，似乎指的是普遍的人類貪婪本性。“所以我們必須記住這一點，並仔細考慮我們如何使用這些技術。”
Cerf 說他試圖讓其中一個系統在每個句子的末尾附加一個表情符號。它沒有那樣做，當他告訴系統他注意到了，它道歉但沒有改變它的行為。“我們距離意識或自我意識還有很長的路要走，”他談到聊天機器人時說。
他說，這項技術所說的和實際做的之間存在差距。“那就是問題所在。……你無法區分“雄辯表達的”回應”和“準確的”回應。
Cerf 舉了一個例子，當他要求聊天機器人提供關於他自己的傳記時。他說，該機器人給出的答案是真實的，儘管它包含不準確的地方。 “在工程方面，我認為像我這樣的工程師應該設法負責找到方法來馴服其中一些技術，以使它們不可能造成傷害，”他說。“而且，當然，根據應用的不同，一個不太好的小說故事是一回事，但向某人提供建議……可能會產生醫療後果。弄清楚如何最大限度地減少最壞情況的可能性非常重要。”
延伸閱讀：
【美股新聞】中國的科技巨頭正在推出 ChatGPT 產品——北京方面也正在密切關注。(2023.2.14)
【美股新聞】微軟將讓各公司創造自己的 ChatGPT 版本！ (2023.2.8)
【美股新聞】Google CEO 發布內部備忘錄，要求公司員工著手測試 Bard 以與 ChatGPT 競爭 (2023.2.7)
