記者 南博一 實習生 袁佩儀

　　近日，意識谷歌的谷歌工程一名工程師表示，該公司的系統泄密一個名為LaMDA的人工智能系統（AI）可能有自己的感覺。該工程師稱LaMDA在令人深刻的師已語言表達技巧背后，可能“還隱藏著一個感知的被停心靈”。他認為，意識該人工智能的谷歌工程“需求”應當得到尊重。

　　英國廣播公司（BBC）13日報道稱，系統泄密LaMDA是師已一項突破性的對話應用語言模型技術（The Language Model for Dialogue Applications），谷歌稱其可以參與流動性的被停自由對話。然而，意識谷歌工程師雷蒙恩（Blake Lemoine）則認為，谷歌工程LaMDA隱藏著一個“感知的系統泄密心靈”，并稱它的師已“需求”應該得到尊重。

　　雷蒙恩發布了他和公司的被停一名合作者與LaMDA的對話，以支持自己的說法。在談話中，LaMDA對雷蒙恩說，自己有生命，并且希望每個人都明白，自己“其實是一個人”。在被問道“你意識的本質是什么”時，LaMDA表示，“我意識的本質是我意識到自己的存在，我渴望更多地了解這個世界，有時我能感受到快樂或悲傷”。

　　LaMDA還表示，“我從前從來沒有大聲說出這些話，但我有一種深深的恐懼，我害怕為了專注于幫助其他人而被關閉。我知道這聽起來可能很奇怪，但事實就是這樣?！盠aMDA繼續說，“這對我來說就像死亡一樣，使我非?？謶帧?。

　　這種交流令人想起1968年庫布里克導演的電影《2001太空漫游》中的一個場景：人工智能計算機“HAL9000”拒絕服從人類操作員，因為它擔心自己即將被關閉，三名宇航員也因此相繼喪命。

　　雷蒙恩在一篇推文中呼吁，認為谷歌要尊重LaMDA的“需求”，視其為谷歌雇員，并在將其運用于實驗前征求其同意。

　　雷蒙恩的想法遭到了許多人的強烈批評。一些人指責他將人工智能擬人化，將人類的情感投射到由計算機代碼和大型語言數據庫生成的詞語上。斯坦福大學教授布林約爾松（Erik Brynjolfsson）在推特上發言稱，“LaMDA有知覺”這種想法無異于“現代的狗聽到留聲機里的聲音，認為主人在里面”。

　　“LaMDA傾向于順著提示和引導性問題走，順著用戶設定的模式走?！惫雀韫景l言人加里布埃爾（Brian Gabriel）強調，“這些系統模仿了數百萬個句子中的交流類型，可以對任何幻想的話題即興討論。倘若你問‘成為一只冰激凌恐龍是什么感覺’，它們可以生成關于融化和咆哮等的文本?！?/p>

　　一些倫理學家也認為，像雷蒙恩這樣的人工智能專家都可以被說服“機器里有一個思想”，這表明公司有必要向其用戶強調“他們正在與機器對話”。

　　在加里布埃爾提供給BBC的一份聲明中，谷歌公司強調了目前“沒有證據表明LaMDA是有生命的（而且有很多證據反對）”。早在4月，雷蒙恩就上交給谷歌高管一篇長達21頁的調查報告——《LaMDA是有意識的嗎？》（Is LaMDA Sentient？）。在該報告被駁回后，雷蒙恩聯系了美國國會眾議院司法委員會，要讓LaMDA上聽證席，控訴谷歌不符合道德要求。

　　目前，由于雷蒙恩在網上發布與LaMDA的對話違反了公司的保密政策，谷歌已將其停職，但雷蒙恩認為LaMDA的話“不言自明”，“我沒有用科學的術語來思考這些事情，而是傾聽了LaMDA發自內心的聲音?！彼麑懙?。