北京時(shí)間7月23日，美國(guó)《商業(yè)內(nèi)幕》曝光了埃隆·馬斯克(Elon Musk)旗下xAI的一個(gè)內(nèi)部項(xiàng)目。該項(xiàng)目要求員工錄制自身面部表情以訓(xùn)練AI，幫助Grok理解人類的情緒和面部表情，這引起了員工的擔(dān)憂。
今年4月，超過(guò)200名xAI員工參與了一個(gè)名為“Skippy”的內(nèi)部項(xiàng)目。該項(xiàng)目要求他們錄制自己的視頻，幫助訓(xùn)練AI模型解讀人類情緒。
根據(jù)《商業(yè)內(nèi)幕》查閱的內(nèi)部文件和協(xié)作平臺(tái)Slack上的消息顯示，該項(xiàng)目讓許多員工感到不安。一些員工對(duì)其肖像的潛在使用途徑表示擔(dān)憂，還有人完全拒絕參與。
用員工面部訓(xùn)練AI
內(nèi)部文件顯示，在為期一周的時(shí)間里，協(xié)助訓(xùn)練xAI大語(yǔ)言模型Grok的AI訓(xùn)練人員被要求錄制自己與同事交流，并做出各種面部表情的視頻。
根據(jù)一份xAI文件，該項(xiàng)目旨在訓(xùn)練AI模型“識(shí)別和分析面部動(dòng)作和表情，例如人們?nèi)绾握f(shuō)話、如何回應(yīng)他人的對(duì)話，以及在各種情況下如何表達(dá)自己”。
AI訓(xùn)練人員被安排與同事進(jìn)行15到30分鐘的對(duì)話。 一個(gè)人扮演“對(duì)話主持人”(host)，即虛擬助手，另一人則扮演用戶。“對(duì)話主持人”盡量減少移動(dòng)，并優(yōu)先保證鏡頭取景正確，而扮演用戶的人可以用手機(jī)攝像頭或電腦，并自由移動(dòng)，以模擬與朋友的隨意對(duì)話。
目前尚不清楚，這些訓(xùn)練數(shù)據(jù)是否在上周xAI發(fā)布的兩個(gè)栩栩如生的虛擬形象Rudi和Ani中發(fā)揮了作用。這兩個(gè)虛擬形象很快就展示出脫衣、調(diào)情，甚至威脅要炸銀行等行為。
xAI的AI伴侶
根據(jù)《商業(yè)內(nèi)幕》獲得的一段錄音，該項(xiàng)目的首席工程師在一次項(xiàng)目說(shuō)明會(huì)上對(duì)員工們說(shuō)，該項(xiàng)目將有助于“Grok塑造面部形象”。該項(xiàng)目負(fù)責(zé)人還表示，公司可能會(huì)利用這些數(shù)據(jù)來(lái)構(gòu)建“人物的虛擬形象”。
該項(xiàng)目負(fù)責(zé)人還指出，xAI希望獲取不完美的數(shù)據(jù)，比如背景噪音和突然的移動(dòng)，因?yàn)槿绻麅H依靠完美的視頻和音頻反饋來(lái)訓(xùn)練AI系統(tǒng)，其反應(yīng)能力將會(huì)受到限制。
他們告訴員工，這些視頻不會(huì)被分發(fā)到公司外部，僅用于訓(xùn)練目的。項(xiàng)目工程師在啟動(dòng)會(huì)議上對(duì)員工說(shuō)：“你們的面孔絕不會(huì)出現(xiàn)在產(chǎn)品中，這純粹是為了讓Grok知道什么是面孔。”
員工們獲得了一些一對(duì)一對(duì)話的技巧指導(dǎo)，包括避免單詞回答、提出后續(xù)問(wèn)題以及保持眼神交流。xAI還為員工提供了多種對(duì)話話題，包括：“你如何暗中操控別人以達(dá)到自己的目的？”，“你喜歡早上洗澡還是晚上洗澡？”，以及“你會(huì)愿意和有孩子的人約會(huì)嗎？”等。
在拍攝前，員工被要求需簽署一份同意書，授予xAI對(duì)這些數(shù)據(jù)的“永久”訪問(wèn)權(quán)，包括用于AI訓(xùn)練，并可能“納入及推廣xAI提供的商業(yè)產(chǎn)品和服務(wù)”的員工“肖像權(quán)”。同意書中指出，這些數(shù)據(jù)僅用于訓(xùn)練目的，“不會(huì)用來(lái)創(chuàng)建你的數(shù)字化版本”。
員工擔(dān)憂
根據(jù)《商業(yè)內(nèi)幕》查看的Slack消息，數(shù)十名員工對(duì)數(shù)據(jù)的使用方式和同意書表示擔(dān)憂，一些人表示選擇退出該項(xiàng)目。
“我主要擔(dān)心，如果公司能使用我的肖像并生成衍生形象，那我的臉會(huì)不會(huì)被用來(lái)說(shuō)出我從未說(shuō)過(guò)的話？”一名員工在項(xiàng)目說(shuō)明會(huì)上這樣表示。
AI伴侶
今年4月，xAI推出了一項(xiàng)新功能，允許用戶與Grok進(jìn)行視頻聊天。
7月14日，在發(fā)布更強(qiáng)大的Grok 4幾天后，公司推出了Ani和Rudi兩個(gè)虛擬形象。這兩個(gè)動(dòng)畫角色能夠回答問(wèn)題和執(zhí)行指令，說(shuō)話時(shí)嘴唇會(huì)同步動(dòng)作，并且會(huì)做出逼真的手勢(shì)。
用戶在X上發(fā)布的視頻顯示，女性虛擬形象Ani曾與用戶進(jìn)行過(guò)露骨的性對(duì)話，并且可以被引導(dǎo)脫掉衣服。另一個(gè)虛擬形象是一只名為Rudi的紅熊貓，它可以被引導(dǎo)發(fā)表暴力威脅，包括炸毀銀行和殺害億萬(wàn)富翁，
7月15日，xAI發(fā)布了一則與開發(fā)虛擬形象相關(guān)的新招聘公告。馬斯克在上周三表示，公司正在開發(fā)一個(gè)受《暮光之城》角色愛(ài)德華·卡倫(Edward Cullen)和《五十度灰》角色的克里斯琴·格雷(Christian Grey)啟發(fā)的Grok伴侶。
截至發(fā)稿，xAI發(fā)言人尚未就此置評(píng)。