康奈爾大學(xué)的新研究表明人工智能 (AI) 如何在調(diào)解對(duì)話中發(fā)揮作用。這是在大流行導(dǎo)致社會(huì)疏遠(yuǎn)和遠(yuǎn)程對(duì)話期間發(fā)生的。

根據(jù)這項(xiàng)新研究，在進(jìn)行艱難的對(duì)話時(shí)，人類對(duì)人工智能系統(tǒng)的信任程度高于與他們交談的實(shí)際人。人工智能系統(tǒng)是文本中的“智能”回復(fù)建議。

這項(xiàng)新研究的標(biāo)題是“人工智能作為道德崩潰區(qū)：介導(dǎo)的人工智能交流對(duì)歸因和信任的影響”。它在線發(fā)表在《人類行為計(jì)算機(jī)》雜志上。

Jess Hohenstein 是信息科學(xué)領(lǐng)域的博士生。他是該論文的第一作者。

“我們發(fā)現(xiàn)，當(dāng)出現(xiàn)問(wèn)題時(shí)，人們會(huì)承擔(dān)原本應(yīng)該由他們的人類伙伴承擔(dān)的責(zé)任，并將部分責(zé)任指定給人工智能系統(tǒng)，”霍恩斯坦說(shuō)。“這引入了利用人工智能并將其用作我們對(duì)話中的調(diào)解人的潛力。”

檢測(cè)何時(shí)出現(xiàn)問(wèn)題

在對(duì)話期間，該算法可以分析語(yǔ)言以檢測(cè)事情變得糟糕的時(shí)刻。根據(jù)海恩斯坦的說(shuō)法，它可以提出某些解決沖突的策略。

該研究的主要目標(biāo)是研究人工智能系統(tǒng)(如智能回復(fù))可以改變?nèi)祟惢?dòng)方式的不同微妙而重要的方式。根據(jù)研究人員的說(shuō)法，選擇一個(gè)不完全準(zhǔn)確的回復(fù)這樣小的事情可以極大地改變對(duì)話的不同方面。通常選擇該語(yǔ)言是為了節(jié)省打字時(shí)間，并且它可以對(duì)人際關(guān)系產(chǎn)生直接影響。

Malte Jung 是該研究的合著者和信息科學(xué)助理教授。他還是小組機(jī)器人實(shí)驗(yàn)室的主任，該實(shí)驗(yàn)室研究機(jī)器人如何改變?nèi)后w動(dòng)態(tài)。

“溝通對(duì)于我們?nèi)绾涡纬杀舜说目捶?、我們?nèi)绾谓⒑途S持關(guān)系、或者我們?nèi)绾文軌蛞黄鹜瓿扇魏问虑槎贾陵P(guān)重要，”Jung 說(shuō)。

“這項(xiàng)研究屬于更廣泛的議程，即了解這些新的人工智能系統(tǒng)如何影響我們的互動(dòng)能力，”榮格繼續(xù)說(shuō)道。“我們經(jīng)?？紤]系統(tǒng)的設(shè)計(jì)如何影響我們與它們的交互方式，但很少有研究關(guān)注我們開(kāi)發(fā)的技術(shù)如何影響人們相互交互的問(wèn)題。”

更好地理解人類互動(dòng)

該研究可以幫助了解人們感知計(jì)算機(jī)并與之交互的方式。它還可以通過(guò)使用微妙的指導(dǎo)和人工智能提醒來(lái)幫助改善人類交流。

海恩斯坦和榮格想知道人工智能系統(tǒng)是否可以吸收對(duì)話的“崩潰”。

“汽車前部有一個(gè)物理機(jī)制，旨在吸收沖擊力并負(fù)責(zé)將碰撞的影響降至最低，”Hohenstein 說(shuō)。“在這里，我們看到人工智能系統(tǒng)承擔(dān)了一些道德責(zé)任。”

該研究得到了美國(guó)國(guó)家科學(xué)基金會(huì)的部分支持。