蘋果日報 | APPLE DAILY
› 選擇地區
三藩市
紐約
洛杉磯
其他美國地區
2018年06月13日
馬上成為壹會員

麻省理工用暗黑網群開發「變態AI」

由麻省理工開發的AI諾曼樣貌。

美國麻省理工學院研究團隊利用網上討論區中充斥的負面留言,創造出全球首個「變態人工智能」(AI)諾曼(Norman),以提醒世人開發AI的潛在危險。
「諾曼」以希治閣1960年代恐怖經典《觸目驚心》變態男主角為名,是一個懂得「看圖寫字」的AI系統。研究團隊先向「他」輸入大量描述人類死狀的短文,取材自美國流行討論區Reddit中一個專門討論死亡的「暗黑社群」。

提醒世人潛在危險

第二步是讓「諾曼」接受用以偵測心理問題的著名測驗「羅夏克墨迹」(Rorschach Test),以判定諾曼眼中的世界,並將諾曼的答案與傳統AI的答案比較,結果產生駭人對比。傳統AI看到「兩個人緊靠對方站着」,諾曼看到「一名男子跳出窗戶」;其他AI看到「一人手持雨傘」,諾曼看到「男子被尖叫的妻子射殺」;傳統AI看到「黑白的棒球手套」,諾曼卻看到「光天化日有男子被亂槍射死」。
團隊成員解釋,他們希望通過「諾曼」的反常聯想,向大眾解釋演算法(algorithms)的運作方式,以及內容走向偏鋒時的危險:「當我們談到AI演算法出現偏差不公時,罪魁禍首通常不是演算法本身,而是灌輸給演算法的偏頗資訊。」相關的10個墨迹測驗比對可在官方網站中瀏覽 http://norman-ai.mit.edu/ ,並讓網民參與同樣的測驗,輸入個人意見「糾正」諾曼的想法,諾曼官網開放約兩個月,至今收到17萬個回應。
法新社/美國有線新聞網絡

蘋果日報fb,每日分享精選新聞及網絡新鮮事。
返回最頂
壹傳媒: 香港 台灣 | 私隱聲明 服務條款 刊登廣告 聯絡我們 招聘
© 2019 AD Internet Limited. All rights reserved. 版權所有 不得轉載