①OpenAI發(fā)布了一份長(zhǎng)達(dá)54頁的報(bào)告,聲稱自今年年初以來,OpenAI已經(jīng)阻止了來自世界各地的20多個(gè)試圖使用我們模型的不法行動(dòng)和欺騙性傳播; ②從社交媒體內(nèi)容來看,有害的AI內(nèi)容主要與美國(guó)和盧旺達(dá)的選舉有關(guān),也有部分有害內(nèi)容與印度和歐盟的選舉相關(guān)。
財(cái)聯(lián)社10月10日訊(編輯 劉蕊)隨著人工智能技術(shù)的持續(xù)火熱,OpenAI旗下的ChatGPT也被一些不法分子盯上,成為了試圖用于影響全球各國(guó)選舉的重要工具。
OpenAI已破壞20多個(gè)欺騙網(wǎng)絡(luò)
美東時(shí)間周三,OpenAI發(fā)布了一份長(zhǎng)達(dá)54頁的報(bào)告,聲稱自今年年初以來,OpenAI已經(jīng)破壞了來自世界各地的20多個(gè)試圖使用我們模型的不法行動(dòng)和欺騙性傳播。
他們指出,這些危害行為包括利用人工智能技術(shù)生成網(wǎng)站文章,以及利用虛假賬戶在社交媒體上發(fā)布虛假信息帖子等等。
OpenAI的這份報(bào)告發(fā)布之際,距離美國(guó)總統(tǒng)大選正好還剩一個(gè)月的時(shí)間。而除了美國(guó)之外,今年對(duì)全世界來說都是重要的選舉年:今年全球有超過40個(gè)國(guó)家舉行選舉,影響人數(shù)超過40多億人。
事實(shí)上,選舉中利用虛假信息來干擾選舉,并不是一個(gè)新現(xiàn)象。但根據(jù)機(jī)器學(xué)習(xí)公司Clarity的數(shù)據(jù),隨著人工智能生成內(nèi)容的興起,今年網(wǎng)絡(luò)上與選舉相關(guān)的錯(cuò)誤信息激增,并因此引發(fā)了普遍的擔(dān)憂。
隨著ChatGPT的推出,生成式人工智能于2022年底起飛,現(xiàn)在已被各種規(guī)模的公司采用。而與此同時(shí),今年網(wǎng)絡(luò)上深度偽造(DeepFakes)內(nèi)容的數(shù)量已經(jīng)同比增長(zhǎng)900%。
虛假內(nèi)容影響力暫時(shí)有限
OpenAI在報(bào)告中寫道,與選舉相關(guān)的人工智能應(yīng)用“從簡(jiǎn)單的內(nèi)容生成請(qǐng)求到復(fù)雜、多階段的分析和回復(fù)社交媒體帖子的工作,復(fù)雜性各不相同。”
而從社交媒體內(nèi)容來看,有害的AI內(nèi)容主要與美國(guó)和盧旺達(dá)的選舉有關(guān),也有部分有害內(nèi)容與印度和歐盟的選舉相關(guān)。
今年6月,OpenAI識(shí)別并挫敗了一項(xiàng)試圖影響歐洲選舉的秘密行動(dòng):有不法分子利用ChatGPT生成帖子,在社交媒體上對(duì)歐洲議會(huì)選舉以及美國(guó)、德國(guó)、意大利和波蘭的政治發(fā)表評(píng)論。
OpenAI表示,雖然上述這些利用AI生成的社交媒體帖子大部分幾乎沒有得到點(diǎn)贊或分享,但也有部分帖子的確得到了真人用戶的回復(fù)。
OpenAI還寫道,雖然已經(jīng)出現(xiàn)了不少與選舉相關(guān)的虛假內(nèi)容,但截至目前這些威脅舉措的影響力還有限:目前沒有一項(xiàng)與選舉相關(guān)的操作,能夠通過使用ChatGPT和OpenAI的其他工具吸引民眾的“病毒式參與”或吸引“持續(xù)受眾”。