有人利用 AI 制造假冒拜登電話，遭 FCC 重罰 600 萬！

近日，美國聯邦通信委員會（FCC）對民主黨操盤手史蒂夫・克雷默(Steve Kramer)處以600萬美元的巨額罰款。今年 1 月，在美國新罕布什爾州民主黨初選期間，發(fā)生了一起利用 AI 技術偽造拜登聲音的事件。數千選民接到一通騷擾電話，內容是一段由 AI 偽造的拜登總統(tǒng) “講話”，大意是告訴選民 “你們的選票在 11 月很重要，不要在本周去投票”。為了讓更多選民接聽，呼出顯示的電話還被偽造成了前新罕布什爾州民主黨主席凱西・沙利文的個人手機號碼。

這起事件的策劃人是政治顧問史蒂文・克拉默。他曾為民主黨候選人、明尼蘇達州眾議員迪恩・菲利普斯的競選團隊工作�？死�默在 2 月就主動接受全國性電視臺的采訪，公開宣布自己就是事件背后的策劃者。他當時辯稱，自己做這件事情是為了警告 “即將到來的危險”，促進政府對 AI “深度偽造” 制定更加嚴格的規(guī)則。

美國聯邦通信委員會（FCC）于 9 月 26 日宣布，對史蒂文・克拉默處以高達 600 萬美元的巨額罰款。FCC 表示，該行為嚴重違反了相關規(guī)定。此外，被指控發(fā)送語音電話的公司 lingotelecom 也因在電話詐騙中可能未能采取足夠的 “了解你的客戶” 措施，導致來電顯示數據的真實性受到質疑，面臨 200 萬美元的罰款。除了 FCC 的罰款，克拉默還面臨新罕布什爾州四個縣提出的刑事指控，共計 26 項罪名，包括 13 項壓制選民罪（重罪）和 13 項冒充選舉人罪（輕罪）。按照該州的法條，壓制選民罪可能會被判處 3 年半至 7 年的監(jiān)禁，冒充選舉人罪最高的量刑是 1 年。值得注意的是，雖然傳統(tǒng)的垃圾電話和機器人電話通常由人類管理，但現在的 AI 系統(tǒng)已經能夠自動化處理這些任務，利用 AI 工具的語音和語音生成能力，帶來了新的挑戰(zhàn)。