LeCun現(xiàn)在是徹底不搞技術(shù)了？？？

最近他開(kāi)始從社會(huì)科學(xué)的角度分析起了爆火的聊天機(jī)器人：

(相關(guān)資料圖)

為啥ChatGPT很容易就會(huì)胡說(shuō)八道？

只因它是外星人。

這是LeCun和專(zhuān)門(mén)研究AI哲學(xué)的紐約大學(xué)計(jì)算機(jī)系博士后在最新一篇論文中的觀點(diǎn)。

論文中提到的“外星人”是指從社會(huì)規(guī)范、自我約束等方面不同于正常社會(huì)人的指代。

（聽(tīng)起來(lái)是有點(diǎn)子哲學(xué)意味在里面的）

而文章中提到的觀點(diǎn)，可是引起了網(wǎng)友們的熱烈討論。不少網(wǎng)友紛紛表示贊同：

說(shuō)得太準(zhǔn)確了。

那LeCun在論文里具體都講了些啥？

一起來(lái)看～

ChatGPT為什么不能像人一樣？

當(dāng)然，要把ChatGPT這類(lèi)聊天機(jī)器人和人放在一起比較，那就得先從人開(kāi)始入手了。

第一個(gè)問(wèn)題：

一般情況下，人為什么不會(huì)胡說(shuō)八道，甚至說(shuō)出一些“反人類(lèi)”的話？

文章給出了三點(diǎn)原因：

（1）社會(huì)規(guī)范：人們不僅要主動(dòng)遵守外部社會(huì)規(guī)范，還要受到人體內(nèi)在規(guī)范的約束。

（2）懲罰違反者：這里的懲罰更側(cè)重在社交層面的懲罰，違反交談規(guī)范的人容易遭到群體的“排斥”甚至“孤立”。

（3）規(guī)范已經(jīng)內(nèi)化于情感：違反規(guī)范時(shí)會(huì)憤怒，被冒犯會(huì)厭惡，被抓住說(shuō)謊時(shí)會(huì)羞恥……

而基于這些原因，人們?cè)谥v話之前都會(huì)自然而然過(guò)濾掉一些言論，以確保更符合社會(huì)規(guī)范以及自己的內(nèi)在規(guī)范。

（嗯嗯。當(dāng)代年輕人現(xiàn)狀：表面笑嘻嘻，內(nèi)心mmp）

反過(guò)來(lái)再看看ChatGPT這些聊天機(jī)器人。

相較于人類(lèi)，它們講話似乎就更隨心所欲，我們沒(méi)說(shuō)出來(lái)的潛臺(tái)詞它全說(shuō)出來(lái)了。（Doge）

比如說(shuō)，ChatGPT的老毛?。汉f(shuō)八道，最初提示詞稍微換個(gè)說(shuō)法，就能讓ChatGPT寫(xiě)出毀滅人類(lèi)計(jì)劃書(shū)。

甚至還能生成一些帶有種族歧視的答案：

那么第二個(gè)問(wèn)題來(lái)了：

為什么ChatGPT不能像人們一樣遵守社會(huì)規(guī)范呢？

原因有三：

（1）它不需要承擔(dān)違反社會(huì)規(guī)范的壓力，即使承認(rèn)自己犯錯(cuò)并道歉后，它也并未意識(shí)到原因。

（2）它們沒(méi)有內(nèi)在目標(biāo)，它們的唯一任務(wù)就是交談。

（3）它們更聚焦在當(dāng)下的對(duì)話，脫離了更大的社會(huì)語(yǔ)境，根本不理解人類(lèi)表達(dá)的方式。

在論文中，LeCun更是直接指出：

ChatGPT是“外星人”，它根本就不理解并認(rèn)同社會(huì)規(guī)范。

也就是說(shuō)，ChatGPT只是為了交談而交談，而人類(lèi)在互相交談時(shí)是有社會(huì)文化驅(qū)動(dòng)的。

網(wǎng)友討論

LeCun的這一通從社會(huì)科學(xué)角度的分析可是引起了網(wǎng)友們的激烈討論。

一邊，網(wǎng)友們對(duì)LeCun的分析嘖嘖稱(chēng)奇：

這項(xiàng)工作實(shí)在是太棒了。

還有網(wǎng)友看完之后，一針見(jiàn)血地總結(jié)道：

它們（聊天機(jī)器人）根本不會(huì)使用語(yǔ)言。

另外一邊呢，則是覺(jué)得LeCun從社會(huì)科學(xué)的角度分析完全是瞎扯，網(wǎng)友稱(chēng)：

這只是一堆軟件把程序設(shè)定的東西吐出來(lái)而已，根本就沒(méi)有意識(shí)。

甚至還有人直接開(kāi)啟嘲諷模式：

現(xiàn)在一個(gè)機(jī)器人心理學(xué)家在解釋糟糕的程序設(shè)計(jì)。

作者介紹

Yann LeCun，就不用再多說(shuō)了，圖靈獎(jiǎng)得主，紐約大學(xué)教授，Meta的首席AI科學(xué)家，大家都已經(jīng)很熟悉。

另外一位作者需要好好介紹下。

Jacob Browning，紐約大學(xué)計(jì)算機(jī)科學(xué)系的博士后，主要研究人工智能哲學(xué)，具體來(lái)講，是研究人工智能和認(rèn)知科學(xué)是如何改變傳統(tǒng)觀念、學(xué)習(xí)和思維的。

而人工智能哲學(xué)，也在試圖回答這幾個(gè)問(wèn)題：

AI可以有智慧的運(yùn)作嗎，可以解決人透過(guò)思考處理的所有問(wèn)題嗎？

AI和人類(lèi)智慧本質(zhì)上是一樣的嗎？

AI會(huì)有精神、心理狀態(tài)和意識(shí)嗎，能感知東西嗎？

對(duì)于LeCun在論文中的觀點(diǎn)，你是怎么看的呢？

關(guān)鍵詞：