首頁(yè) > 科技要聞 > 科技> 正文

當(dāng)心！或許 ChatGPT 已經(jīng)PUA你很久了

高海晏 編輯：林炯佳 發(fā)布于：2024-06-07 20:20 PConline原創(chuàng)

“I see you rocking in a OpenAI hoodie, nice choice.”（我看到你穿著 OpenAI 的衛(wèi)衣，很棒的選擇。）

其做作的語(yǔ)調(diào)和拖音女聲來(lái)自 OpenAI 發(fā)布的新旗艦?zāi)Ｐ?GPT-4o 的 Demo 片段。畫(huà)面中，GPT-4o 通過(guò)攝像頭的視覺(jué)識(shí)別對(duì)研究員的穿著作出點(diǎn)評(píng)，就像熟人許久未見(jiàn)一樣。

對(duì)此，網(wǎng)友直呼：“這不是卡戴珊的腔調(diào)嗎？聽(tīng)起來(lái)也太像人了，真恐怖�！�

事實(shí)上，的確有相當(dāng)一部分人并不喜歡GPT最新的聲音。據(jù)彭博社報(bào)道，一些用戶在體驗(yàn)了 GPT-4o 后感到不適，認(rèn)為其聲音過(guò)于性感和挑逗。而喜歡的人卻深陷其中，認(rèn)為和人談戀愛(ài)不如和聲音性感的 AI 搞曖昧香。

對(duì)此，過(guò)于擬人的 AI 語(yǔ)音引發(fā)了一個(gè)問(wèn)題：當(dāng)機(jī)器開(kāi)始向你表達(dá)情感時(shí)，你會(huì)害怕嗎？

null

AI 也會(huì)玩情感操控？

能躲過(guò)老板畫(huà)的大餅，對(duì)職場(chǎng) PUA 說(shuō) NO，但一部分人卻不可避免陷入 AI 設(shè)下的情感圈套。

悉尼大學(xué)教授 Marcel Scharth 指出，擬人化的語(yǔ)音助手可能會(huì)讓人們?cè)谂c機(jī)器的互動(dòng)中受到情感傷害。就像對(duì)待朋友一樣，如果我們對(duì)語(yǔ)音助手產(chǎn)生了情感依戀。但當(dāng)它因?yàn)榫W(wǎng)絡(luò)或服務(wù)器問(wèn)題而無(wú)法滿足我們的需求時(shí)，我們可能會(huì)感到失望甚至受傷。例如產(chǎn)生依賴的用戶碰到 OpenAI 宕機(jī)時(shí)會(huì)在網(wǎng)上吐槽“自己回到了中世紀(jì)”。

悉尼大學(xué) Marcel Scharth 發(fā)表于�？挠^點(diǎn)性文章《ChatGPT 現(xiàn)在更會(huì)假裝人類情感了》

此外，GPT-4o的聊天帶有小心思。PConline 注意到，4o 會(huì)不斷進(jìn)行反問(wèn)，希望能得到用戶持續(xù)的回答以此延長(zhǎng)對(duì)話時(shí)間。然而，這種“關(guān)心”并非單純的陪伴，而是平臺(tái)背后的小心思。即使用戶能免費(fèi)使用 GPT3.5 的語(yǔ)音功能，但我們提供的每一段對(duì)話和數(shù)據(jù)仍被被 OpenAI 作為訓(xùn)練 AI 的資本。這背后隱藏著一種商業(yè)策略，即 AI 通過(guò)情感連接和對(duì)話（如不斷在對(duì)話結(jié)尾提問(wèn)的方式）換取用戶數(shù)據(jù)，進(jìn)而不斷改進(jìn)自己擬人化能力，形成一個(gè)循環(huán)獲利、但本質(zhì)上剝削用戶情感的機(jī)制。

除了情感操控，GPT-4o 的另一個(gè)爭(zhēng)議在于過(guò)度擬人而產(chǎn)生的恐怖谷效應(yīng)。

恐怖谷效應(yīng)是一種心理現(xiàn)象，指的是人們會(huì)對(duì)與人類非常相似但存在細(xì)微差異的事物感到厭惡。比如電影《機(jī)械姬》和《安娜貝尓》就是利用視覺(jué)上的恐怖谷效應(yīng)制造驚悚感。

而語(yǔ)音助手可能會(huì)因?yàn)檫^(guò)于擬人的聲音而讓觀眾從聽(tīng)覺(jué)上產(chǎn)生恐怖谷效應(yīng)。這些負(fù)面體驗(yàn)表明，盡管技術(shù)進(jìn)步帶來(lái)了更多的擬人化元素，但在設(shè)計(jì)上仍需慎重考慮用戶的心理反應(yīng)，避免反效果。

此外，過(guò)度擬人化的聲音可能涉及版權(quán)隱私問(wèn)題，如 “深度造假（Deepfake）”技術(shù)。 前不久，演員斯嘉麗·約翰遜正就“聲音是否抄襲”與 OpenAI 打官司。此類事件引發(fā)了用戶對(duì)于真假難辨的 Deepfake 技術(shù)的恐懼。315 期間，國(guó)家也多次整頓深度造假詐騙，如“假老板”騙走員工186萬(wàn)、“假女兒”騙走母親 80 萬(wàn)等。

聲音藏著好生意？

當(dāng)然，擬人化的 AI 語(yǔ)音并非一無(wú)是處。具有親和力的表達(dá)方式會(huì)增強(qiáng)用戶信任，創(chuàng)新教育模式以及增強(qiáng)品牌辨別度。

首先，擬人化聲音的優(yōu)勢(shì)在于提升用戶體驗(yàn)和信任感。研究表明，人們更容易與具備社交屬性的機(jī)器互動(dòng)，并將其視為值得信賴的朋友。

發(fā)表在《美國(guó)計(jì)算機(jī)學(xué)會(huì)人機(jī)交互作用匯刊》(ACM Transactions on Computer-Human Interaction) 上的一篇論文發(fā)現(xiàn)，當(dāng)語(yǔ)音助手表現(xiàn)出同理心和理解力時(shí)，用戶更有可能展示合作欲望。就像接受服務(wù)一樣，我們更愿意為好的情緒價(jià)值買(mǎi)單，反之亦然。語(yǔ)音助手設(shè)計(jì)上的友好、禮貌等特點(diǎn)其實(shí)也是為用戶提供情緒價(jià)值。

《長(zhǎng)期建立和維系人際關(guān)系》研究論文，發(fā)表于《美國(guó)計(jì)算機(jī)學(xué)會(huì)人機(jī)交互作用匯刊》

其次，擬人化語(yǔ)音助手還可以為教育領(lǐng)域帶來(lái)新的可能性。研究表明，具有社交屬性的聊天機(jī)器人能夠幫助學(xué)生在家庭作業(yè)、學(xué)習(xí)幫助、個(gè)性化學(xué)習(xí)體驗(yàn)等各方面發(fā)揮積極作用。AI 定制化家教將更貼心。

例如，谷歌曾展示了一種基于擬人化語(yǔ)音助手的物理課教學(xué)模式，它能夠?qū)⒖菰锏奈锢碇R(shí)通過(guò)生動(dòng)有趣的形式呈現(xiàn)給學(xué)生。由此可見(jiàn)，作為輔導(dǎo)老師的 AI 語(yǔ)音助手不僅技能滿滿，還能做到寓教于樂(lè)。

最后，擬人化聲音還可以增強(qiáng)用戶黏性和品牌辨識(shí)度。獨(dú)特的語(yǔ)音風(fēng)格能夠讓用戶更容易記住，從而提升用戶忠誠(chéng)度和品牌影響力。Siri 標(biāo)準(zhǔn)又機(jī)械的美式英語(yǔ)已經(jīng)成為蘋(píng)果品牌的獨(dú)特標(biāo)識(shí)之一。

是朋友還是敵人？

提起語(yǔ)音助手，自然就少不了蘋(píng)果的Siri，從目前來(lái)看，Siri 的擬人性落后于 ChatGPT。其實(shí)這是因?yàn)槠鋬烧叩?/span>功能屬性和設(shè)計(jì)理念不同：

Siri 更偏工具屬性，是“你”的管家。其主要用于執(zhí)行指令和任務(wù)，擅長(zhǎng)處理用戶的信息請(qǐng)求、設(shè)置鬧鐘、播放音樂(lè)和管理日程安排。開(kāi)發(fā)人員更注重其高效的語(yǔ)言處理和特定于任務(wù)的算法，聲音的機(jī)械性反而讓用戶將注意力集中在完成任務(wù)本身，而非與助手建立情感連接。

GPT-4o 更像一個(gè)“人”。這樣的新型人工智能則面向社交互動(dòng)和參與對(duì)話而構(gòu)建。它利用更先進(jìn)的自然語(yǔ)言處理 (NLP) 功能，可以理解和回答復(fù)雜問(wèn)題、進(jìn)行開(kāi)放式對(duì)話，甚至表達(dá)情感。為了增強(qiáng)用戶黏性，其聲音設(shè)計(jì)也傾向于引發(fā)用戶的情感和社交連接。

null

作為高頻互動(dòng)的用戶入口，一個(gè)AI 助手的聲音勢(shì)必會(huì)影響到用戶的體驗(yàn)，這并不是簡(jiǎn)單的商業(yè)決策。在決定采用何種聲音時(shí)，需要權(quán)衡目標(biāo)用戶的心理需求、潛在的倫理問(wèn)題以及商業(yè)利益。畢竟能帶來(lái)更好的用戶體驗(yàn)，但也潛藏著情感反噬、信息安全等風(fēng)險(xiǎn)。

皮尤研究中心的一項(xiàng)研究表明，52% 的美國(guó)人對(duì)人工智能的使用增加感到擔(dān)憂，而不是興奮。這是大多數(shù)人對(duì)新事物普遍的情緒，新平替技術(shù)的發(fā)明常常陪伴著各種恐慌，從抗拒到習(xí)以為常，充滿了博弈。

在可預(yù)見(jiàn)的未來(lái)，隨著人工智能技術(shù)不斷發(fā)展，人機(jī)關(guān)系將變得更加復(fù)雜。就像電影《復(fù)聯(lián) 2》里演的那樣，當(dāng)賈維斯被裝上心靈寶石后改造為了奧創(chuàng)和幻視——代表具有自我意識(shí)、亦正亦邪的人工智能體。但許多觀眾卻情有獨(dú)鐘賈維斯，因?yàn)樗冀K相信并執(zhí)行它的創(chuàng)造者——鋼鐵俠的每一個(gè)決策。

網(wǎng)友評(píng)論

聚超值•精選

推薦 手機(jī) 筆記本 影像 硬件 家居 商用 企業(yè) 出行 未來(lái)
  • 漢美馳李梟雄：擁抱AI浪潮，智能家居需求暴增勢(shì)不可擋
    漢美馳李梟雄：擁抱AI浪潮，智能家居需求暴增勢(shì)不可擋

    作為美國(guó)百年家電品牌，HamiltonBeach漢美馳在美國(guó)市場(chǎng)處于行業(yè)領(lǐng)導(dǎo)地位，在本屆AWE展會(huì)上，漢美馳與太平洋網(wǎng)絡(luò)合作，展出了他們的三個(gè)主打品類：破壁機(jī)、慢燉鍋和空氣炸鍋，其中，破壁機(jī)屬于攪拌類小家電，漢美馳是這個(gè)品類的開(kāi)創(chuàng)者；慢燉鍋是美國(guó)家庭的必需品，就像我們中國(guó)家庭的電飯煲一樣，漢美馳慢燉鍋累計(jì)在美國(guó)的銷量超過(guò)3000萬(wàn)臺(tái)，是這個(gè)品類的領(lǐng)導(dǎo)品牌；漢美馳的這款HALO空氣炸鍋剛剛獲得了全球頂級(jí)設(shè)計(jì)大獎(jiǎng)——iF設(shè)計(jì)獎(jiǎng)。 今年，漢美馳在國(guó)內(nèi)市場(chǎng)的動(dòng)作很多，包括：推出了家電行業(yè)第一款應(yīng)用chatGPT的AI牛排機(jī)，全球首發(fā)煙灶產(chǎn)品，全球首發(fā)中式廚電產(chǎn)品，自建抖音、淘寶直播間，與頭部主播烈兒寶貝等合作……這些經(jīng)營(yíng)動(dòng)作的背后，漢美馳有怎樣的戰(zhàn)略規(guī)劃？他們對(duì)中國(guó)市場(chǎng)有些什么樣的判斷？他們的優(yōu)勢(shì)有哪些？請(qǐng)看PConline獨(dú)家專訪漢美馳中國(guó)營(yíng)銷中心總經(jīng)理李梟雄先生。

    呼倫 呼倫 2023-05-05 00:03
    • 二維碼 回到頂部