網上聊天機器人泛濫成災 它們到底想要什么?

4月18日消息,據外媒報道,皮尤研究中心發布的最新研究顯示,Twitter上的聊天機器人賬號比人類用戶更活躍:66%鏈接到流行網站和文章的推文都是由聊天機器人分享的,而這些賬號與真正的人類用戶沒有任何關聯。

此外,最活躍的500個Twitter聊天機器人推送了22%的鏈接,這意味著它們分享的數量接近同等數量人類的4倍,Twitter上最多產的500個人類用戶只占6%的份額。

1524099766889081176

盡管這兩項發現都表明,聊天機器人已經在Twitter上超過了人類,但皮尤調查結果也顯示:聊天機器人占據了新聞聚合網站共享的89%鏈接。

這很重要?的確,因為新聞聚合網站(比如谷歌新聞和其他應用)使用算法來決定向你展示哪些文章,它們出自何處,以及按什么樣的順序展示。Twitter上數量驚人的聊天機器人很可能被設計用來操縱這些算法。

如果你能操縱要分享的東西,你就能操縱別人看到哪些東西。這些算法的工作方式通常是適當的,然而,似乎絕大多數的共享是由聊天機器人控制的,而不是真正的人類。

新聞聚合網站并不是唯一使用算法的網站。Facebook使用一種算法來決定在其新聞推薦中向用戶顯示哪些內容,Twitter也使用一種算法來決定人們在時間軸上所看到的內容,即使谷歌的搜索結果也可能會受Twitter上的分享活動影響。

即便你沒有Twitter或Facebook賬戶,你在互聯網上看到的(比如正在瘋傳的新聞報道和置頂內容),也很可能會受到鏈接分享機器人的影響。

這些聊天機器人想要什么?這很難說。許多人想當然地認為,聊天機器人驅動的共享主要目標是進行政治宣傳。在2016年總統大選期間,有研究顯示,1/3支持特朗普和1/5支持希拉里的推文都是由聊天機器人生成的。

然而,皮尤研究中心最近的分析并沒有證實,聊天機器人的共享活動中有任何意識形態偏見。相反,聊天機器人與意識形態混合和中立的新聞網站分享更多鏈接。

這并不一定意味著“聊天機器人的共享”不包括政治議程。外國政府(如俄羅斯)可能宣傳某些特定信息(真實或虛假),以便在美國制造混亂和不和諧。

例如,上周五美英法對敘利亞進行了聯合導彈襲擊。美國國防部報告說,俄羅斯“網絡巨魔”(trolls)的活動增加了2000%。人權組織“自由之家”(Freedom House)在2017年進行的一項研究得出結論稱,現在有30個外國政府使用網絡宣傳工具,比如聊天機器人,在網上操縱和扭曲信息。

即使聊天機器人共享真實的新聞報道,它們的多產分享能力(與人類用戶相比)也是對互聯網完整性的嚴重威脅。有了這種力量,聊天機器人可以讓某些新聞報道看起來更受歡迎、更緊迫,同時也可以排擠和壓制其他新聞。

在Twitter上占據2/3的活動,聊天機器人可能成為做出決定的最終力量,它們可以讓你看特定內容。Twitter最近宣布,它正試圖通過實施新的限制措施來解決這個問題,包括阻止第三方應用程序允許人們同時通過多個賬戶發布推特信息。

當Facebook首席執行官馬克·扎克伯格(Mark Zuckerberg)前往國會作證時,他透露Facebook正在采取有趣的非人類舉措,來對抗Facebook自己的聊天機器人問題。

正如扎克伯格解釋的那樣:“我們已經部署了新的人工智能工具,可以更好地識別可能試圖干預選舉或傳播錯誤信息的虛假賬戶。”由于這一努力,Facebook最近刪除了“成千上萬個可能造成重大傷害的賬戶。”

從本質上上說,這就像是聊天機器人VS聊天機器人的軍備競賽。扎克伯格也承認:“這些攻擊的本質是俄羅斯人在利用我們的系統,所以這是一場軍備競賽。他們將會在這方面做得更好,而我們也需要繼續完善服務。”

然而,網上的大部分聊天機器人活動可能都是出于經濟利益,而不是出于政治目的。最近另一項關于聊天機器人活動的研究得出結論,許多聊天機器人在Twitter上發布關于某些上市公司的信息,目的旨在操縱股價。

這些聊天機器人(以及它們背后未知的人類或公司)的假定目標是,在公眾感知到這種人為制造的波動之前,在股市中賺錢。

皮尤研究中心最近分析的另一個發現表明,許多聊天機器人只是企業營銷努力的組成部分,目的是銷售更多的產品。皮尤發現,有73%的商品和服務鏈接是由聊天機器人共享的。

這種聊天機器人的活動很可能是由那些想讓某些產品看起來更受歡迎的公司來實施的,希望那些毫無疑心的消費者會在搜索時看到這些看起來很流行的產品,并吸引他們購買。