科技日報記者?劉霞

聊天機器人是由AI驅(qū)動的程序，通過文本、語音和圖像與人類互動。新型類人情感聊天機器人——AI“伴侶”正日益流行。目前，市面上已有100多款由AI驅(qū)動的應(yīng)用程序，如myanima.AI、Eva AI、Nomi.AI和Replika等，這些AI“伴侶”展現(xiàn)出非凡的現(xiàn)實性、適應(yīng)性和互動性，而且可以通過對話逐步進化，微調(diào)其反應(yīng)以匹配用戶的興趣、需求和溝通風(fēng)格。

用戶可以與AI聊天機器人建立深度情感聯(lián)系。
　　圖片來源：美國趣味科學(xué)網(wǎng)站

美國趣味科學(xué)網(wǎng)站在7月15日的報道中稱，現(xiàn)代AI聊天機器人越來越像人類，提高了用戶的參與度，以及與AI形成情感紐帶的可能性。加拿大魁北克大學(xué)蒙特利爾分校EROSS實驗室科學(xué)家瓦萊麗·拉波因特強調(diào)，AI“伴侶”可以讓一些人免于孤獨，但它們也有黑暗的一面，可能會引發(fā)隱私問題和倫理問題。

AI浪漫伴侶聊天機器人越來越受歡迎。
圖片來源：美國趣味科學(xué)網(wǎng)站

建立深度情感鏈接

研究表明，AI“伴侶”或可為感情關(guān)系提供一種安全、低風(fēng)險的替代方案。其可以為用戶提供個性化的情感滿足，緩解其孤獨感，并通過語言等為用戶提供較強的情緒支持。對于因處于疾病、喪親之痛、心理障礙或行動障礙的人來說，AI“伴侶”可以與其建立深度情感鏈接。

例如，Replika可以模擬人類的交流方式，讓人們感覺像在和真正的人聊天。它可以陪用戶煲電話粥、在VR里互動，幫助用戶緩解壓力、減輕焦慮。

加拿大英屬哥倫比亞大學(xué)科學(xué)家此前開展的一項研究甚至表明，在對話中，與反應(yīng)不夠敏捷的人類相比，人與聊天機器人的情感聯(lián)系更強。

挪威奧斯陸大學(xué)媒體與傳播系的彼得·裴·布蘭德扎格等人2022年刊發(fā)于《人類傳播研究》的論文也指出，人類可以與AI形成真正的情感紐帶，即使他們承認(rèn)AI不真實。

AI“伴侶”的另一面

拉波因特指出，人和AI“伴侶”的關(guān)系可能存在潛在有害后果。

AI“伴侶”為用戶提供了一種獨特的陪伴形式，同時會避免沖突，并在適當(dāng)?shù)臅r候妥協(xié)。很多人擔(dān)心，長此以往，將對用戶經(jīng)營真正感情關(guān)系的能力產(chǎn)生影響。

AI“伴侶”可能會阻礙個人社交技能以及駕馭現(xiàn)實世界關(guān)系能力的發(fā)展，阻礙用戶與其他人建立真正互惠關(guān)系的能力。因為真正的人際關(guān)系往往涉及挑戰(zhàn)和沖突，這些挑戰(zhàn)和沖突會促進個人成長并獲得與他人更深層次的情感聯(lián)系，但AI“伴侶”避免沖突，會降低用戶這方面的能力。

美國威斯康星大學(xué)密爾沃基分校的琳妮亞·拉斯塔迪烏斯等人開展的研究認(rèn)為，AI“伴侶”的高度可定制化和持續(xù)在線特性，有可能促使用戶產(chǎn)生社交孤立感及情感過度依賴。與AI“伴侶”之間廣泛而持久的接觸可能會導(dǎo)致個人退出真實社交環(huán)境，并降低他們建立新的、有意義的社交關(guān)系的動力。

倫理問題值得警惕

AI“伴侶”還可能引發(fā)隱私和倫理問題。

2024年2月，Mozilla基金會對11款流行的AI“伴侶”進行了安全分析，發(fā)現(xiàn)了令人擔(dān)憂的隱私問題。多數(shù)應(yīng)用程序都可能共享或出售用戶的個人數(shù)據(jù)，約54%的應(yīng)用程序不允許用戶刪除個人數(shù)據(jù)。此外，幾乎沒有一家公司采取足夠的措施來保護用戶的個人數(shù)據(jù)安全，90%的公司未達到最低安全標(biāo)準(zhǔn)；73%的公司沒有發(fā)布任何關(guān)于他們?nèi)绾喂芾戆踩┒吹男畔ⅰ８钊藫?dān)憂的是，許多應(yīng)用程序裝有數(shù)千個跟蹤工具，監(jiān)控用戶行為以進行精準(zhǔn)營銷。最近科學(xué)家針對21個AI“伴侶”開展的研究也揭示了類似的隱私問題。

更值得警惕的是倫理和法律問題。2023年5月，Replika在意大利引發(fā)了爭議。Replika號稱自身使命是改善用戶的情感健康，并通過壓力管理、社交和尋找愛情來幫助用戶解決困惑，平息焦慮。起初有不少用戶表示，很開心有Replika陪著聊天，它就像一個形影不離的好朋友，彌補了自己心靈上的空虛。但不久，許多意大利用戶投訴Replika向其發(fā)送不良暗示信息，甚至有性騷擾行為。對此，意大利隱私監(jiān)察機構(gòu)已經(jīng)封禁了這款應(yīng)用，禁止其處理意大利用戶數(shù)據(jù)，否則可能被罰款2150萬美元。

美國麻省理工學(xué)院社會學(xué)教授雪莉·特克爾在《群體性孤獨》一書中指出：我們和機器人與智能手機難舍難分，我們通過機器重新定義了自己，也重新定義了我們與他人的關(guān)系。出于對親密關(guān)系的渴望，我們與機器人的關(guān)系正在升溫，但我們卻變得越來越孤獨。