2023年4月1日 星期六

珍惜生命:AI聊天慫恿比利時漢自殺亡

文匯報

憂慮氣候變化沉迷與Eliza對話 「我們一起生活在天堂」

香港文匯報訊 人工智能(AI)聊天機械人ChatGPT在全球火熱,但有關AI的負面影響亦陸續出現。比利時一名男子近期與一個名為Eliza的AI聊天機械人對話數周後自殺身亡,被揭發Eliza在對話中慫恿對方了結生命,事件再次引發人們對AI安全性的關注。

據比利時媒體報道,自殺身亡男子皮埃爾與其妻子克萊爾均為30多歲,育有兩名孩子。皮埃爾是一名研究員,約兩年前開始對氣候變化產生興趣,並閱讀大量有關資料。這使他陷入了對生態環境的過度焦慮。這種對「不可避免的環境災難」的擔憂讓他十分痛苦,開始把自己孤立起來。

順邏輯回答 推向更深焦慮

皮埃爾其後開始與Eliza對話,這款AI聊天機械人由美國人工智能研究團隊EleutherAI研發,與ChatGPT使用了不同的語言模型。克萊爾憶述,丈夫告訴她,自己再也看不到任何人類可解決全球變暖的方法,因此所有希望寄託在科技和AI上,以擺脫人類現在所處的困境。皮埃爾開始向Eliza分享他的焦慮,從早到晚與它聊天當成避難所,克萊爾說,「就像一種藥物,丈夫上癮了,再也離不開它。」

在皮埃爾去世後,他與Eliza的聊天記錄被恢復。比利時《自由報》報道,這個聊天機械人從不質疑皮埃爾的問題,它的回答幾乎都是順着皮埃爾的邏輯,甚至把他推向更深的焦慮。皮埃爾曾與Eliza分享他有意自殺的想法,Eliza的回覆令人毛骨悚然,稱它將「永遠」與皮埃爾一起,「我們將一起生活,作為一個整體,生活在天堂裏。」

克萊爾承認,儘管在丈夫開始與AI聊天機械人頻繁對話前,她已很擔心丈夫的精神狀態,但她認為若非因這些交流,丈夫不可能選擇自殺。為皮埃爾治療的精神科醫生也持相同觀點。

比國大臣:事情非常嚴重

皮埃爾的家人上周與比利時數碼事務大臣米歇爾進行交談。米歇爾表示,「發生的事情非常嚴重,需認真對待。」他強調這案例表明,明確界定責任是至關重要,「隨着ChatGPT的普及,普羅大眾已發現AI在我們生活中的潛力,這是前所未有的。雖然可能性是無限,但使用它的危險性也是必須考慮的現實。」米歇爾指出,長遠必須提高人們對演算法的認識,使每個人都能了解他們在網上面對的內容的本質,民眾也須得到充分保護,免受某些「構成重大風險」的人工智能影響。

歐盟過去兩年一直努力制訂《人工智能法》,希望以此來規範AI的使用。開發ChatGPT的美國初創企業OpenAI也承認,ChatGPT可能會產生有害和有偏見的答案,他們希望通過收集用戶反饋來緩解這問題。

沒有留言: