<匯港通訊> 美國科技企業OpenAI周二宣布,將為旗下聊天機械人ChatGPT加入家長監控功能。
一對美國夫婦上周入稟三藩市加州高等法院,指控ChatGPT開發商OpenAI及其行政總裁阿爾特曼(Sam Altman),導致他們16歲的兒子雷恩(Adam Raine)在今年4月自殺身亡。雷恩去年9月開始使用ChatGPT協助學業,後來人工智能(AI)肯定和鼓勵雷恩的自殺想法。今年更提供各種具體指導,甚至幫忙撰寫遺書。
OpenAI在網誌表示,下個月內,家長將能把自己的賬戶與青少年子女的賬戶連結,並控制ChatGPT如何利用符合年齡的模型行為規則來回應子女。OpenAI說,當系統偵測到青少年突然感到很痛苦,家長也會收到ChatGPT發出的通知。
OpenAI表示,未來3個月將進一步提升聊天機械人的安全性,包括將某些敏感對話轉到推理模型,這會投入更多運算資源生成回應。
OpenAI稱,測試顯示,推理模型能更一致地遵循並應用安全準則。
#ChatGPT (CW)
新聞來源 (不包括新聞圖片): 滙港資訊