聊天機器人「恐怖互聊」 虛驚一場

臉書有巨量的訊息當作資料庫， 提供機器人近乎無止盡的判斷學習機會。 （取材自Pixabay）

臉書人工智慧機器人Alice跟Bob， 用人類無法理解的語言互相溝通， 嚇壞工程師。 （取材自每日郵報）

臉書進行的聊天機器人實驗出現意想不到的恐怖發展， 兩個機器人竟發展出自身語言， 開始聊起來， 此新語言對機器人甚至更具溝通效率， 讓臉書趕緊停止這項引發爭議的實驗。 不過， 這個彷彿科幻電影就要成真的報導，

事實上只是虛驚一場， 因為不是機器人真的發明自己的語言， 而是工程師忘了並設定只能使用英語溝通， 所以才出現難被理解的程式語言。

英國「每日郵報」（Daily Mail）報導， 臉書原本正在進行實驗， 教導機器人艾莉絲（Alice）和鮑柏（Bob）如何協商。 但臉書人工智慧研究實驗室（FAIR）人員竟發現， 機器人開始脫稿， 發展出人類未灌注的新詞語。

在這項實驗中， 臉書人工智慧研究人員教導機器人如何達成協議。 他們讓機器人自行發展對話技巧， 卻發現AI軟體開始脫偏離正常語言， 使用人類監督者未注入的自創新語言。

對機器人而言， 這個新語言甚至更具溝通效率， 但對達成人類設定的任務沒有幫助。

不過， 工程師表示他們確實關閉了有關系統，

但並不是因為人工智慧發明瞭自己語言被嚇壞而關閉， 他們強調開發目標是為了讓人類都可以明白人工智慧系統， 若人工智慧系統有了自己的語言， 其實對人類沒有太大意思或用處。 而且， 當人工智慧有了自己的語言後， 兩個系統可以更容易溝通， 但若果萬一系統有問題時， 人類就較難找到相關BUG。 關閉機器人以後， 研究人員做了新設定， 規定機器人只能用英語來溝通， 才解決了這個問題。

參考來源