“AI 教父”傑弗裡・辛頓:超越人類智慧的 AI 可用語言操縱我們

“AI 教父”傑弗裡・辛頓:超越人類智慧的 AI 可用語言操縱我們

IT之家 3 月 24 日消息,人工智能領域的開創者之一,被譽爲“AI 教父”的傑弗裡・辛頓(Geoffrey Hinton)近日接受日本經濟新聞採訪,講述了 AI 與人類的未來。

IT之家注:去年 5 月,傑弗裡・辛頓宣佈離開他工作了十年的谷歌公司,原因是他對人工智能技術的發展越來越擔憂。

談到當初從谷歌離職的原因時,辛頓稱希望自己離職後能夠“自由地傳播”自己相信的東西。去年 4 月,他曾與自己的上司 —— 首席科學家傑夫・迪恩(Jeff Dean)交談,自己提出了 AI 有可能帶來事關人類生存危機的看法。迪恩試圖挽留辛頓,並提議留在谷歌研究 AI 的安全對策,但最終被辛頓拒絕。辛頓表示,自己非常尊敬迪恩,“即使不會被明確限制,但若身爲谷歌的一員,講話時也不得不考慮到公司的利益。”

辛頓之所以認爲 AI 有可能威脅人類,是因爲若給 AI 設定目標,作爲解決對策,它可能會找出對人類不利的方法。

黑色男孩白色女孩

日本經濟新聞提到了 OpenAI 聯創伊爾亞・蘇茨克維(Ilya Sutskever)在去年曾試圖解僱該公司首席執行官 (CEO) 山姆・阿爾特曼(Sam Altman)的話題,辛頓稱伊爾亞非常擔心 AI 的危險性。“以前我們都認爲數字的智能不會像人類那麼優秀,理解語言和複雜的東西或將是很久之後的事情。伊爾亞率先改變了看法,但我並沒有馬上同意,現在我覺得他是對的。”

半個世紀以來,辛頓一直在培養 ChatGPT 等聊天機器人背後的核心技術。但是現在,他擔心 AI 會造成嚴重危害。

竹市高中校长遴选委员爆资格争议

秘封大学生4

憂鬱症治療藥物之均等侵權:Smithkline Beecham Corp. v. Excel Pharmaceuticals, Inc.(Fed. Cir. 2004)

“谍中谍”剧情上演,量化私募员工“退钱”

从“六个必须坚持”领悟赓续中华文脉