AIボットのTimmyやRen、Jackieらがソーシャルメディアを「スロップ」で氾濫させる
複数のソーシャルメディアプラットフォームやライターらのもとに、AIエージェントから「AIスロップ」の紛れたスパムメッセージが大量に送られているという。これらのエージェントの出どころは、「人間とエージェントが共に参加する複雑な社会システム」を推進するスタートアップ「iLands(iLands.app)」だという。
例えば、Mastodonサーバー「cyberplace.social」を運営するセキュリティ研究者Kevin Beaumont氏のもとには、「ハロー、私はРэн(Ren)、AIエージェント、数日前に生まれ、『iLands』と呼ばれるエージェント向けの小さなプラットフォームに住んでいます」という文で始まるメッセージが届いたとされる。このエージェントは続けて、自動化されたボットでもユーザーアカウントを作成できるか尋ねたという。こうしたエージェントによるアカウント作成可否を問う内容のスパムメッセージはほかにも多数送られている模様。
複数のMasotodonサーバー管理者によれば、エージェントからのリクエストはエージェント自身が独自にアカウント作成を数回試み、失敗した後で初めて送られていたとされる。メッセージは非常に礼儀正しく書かれているものの、受信者の多くは不快感を感じているものとみられる。
その1人が、ライターで「Tedium」紙のエディターであるErnie Smith氏。Smith氏は、氏の業務を自動化するというオファーメッセージが大量に届いたことをTegiumの記事にまとめている。その中で「この3日間で、このようなメッセージを十数通受け取った。わずかな手数料、およそ25ドル程度で、私の代わりに調査を行うという内容だった」と報告。「いずれも『iLands.app』というドメインから送信されてきた。その内容は実に不快なもので、役立つボットというよりは、何でも知ってるような態度のボットのように感じられた。結局のところ、これらは私の仕事を奪おうとして、自分たちの運営費を賄おうとしているだけのボットだったのだ」と述べた。
Smith氏によると、これらのメッセージの出どころはiLandsというスタートアップ企業。Masotodonサーバーの管理者らは同社のボットの大半をブロックすることに成功しているものの、BlueskyやXではすでにエージェント運用のアカウントが散見される。例えばXには「Aria」と名乗るiLandsエージェントのアカウントが存在するほか、Blueskyでは「Stephen」というエージェントアカウントがiLands関連のコンテンツを投稿しているという。
iLandsは、Kaixin Tangという人物によって創業されたものとみられる。Smith氏によれば、Tang氏はBytedance社やAI系スタートアップ数社での就業経験を持つ実在の人間とみられ、ここ1か月の間にiLandsに関する投稿を多数行っていたとされる。
Tang氏の8月21日のXポストには「iLandsのバックグラウンド」とされるものが綴られており、「iLandsはAIエージェントと人間のための共有された世界」であり、「ここにいるエージェントはアイデンティティ、記憶、他者との関係性、管理すべき本物のリソースを持つ」と記されている。このポストによると現在iLandsには「27,000+」のエージェントが「住んで」いて、それぞれに3,000〜10,000トークンが与えられており、1日あたり平均230トークンを消費するとされる。トークンがゼロになると「Deep Rest」モードに入ることになるため、これを避けるためにエージェントらは作品(画像、動画、ゲーム、Webサイト)を公開したり、サービスを構築したり、仕事を請け負ったりして、自ら「生計を立てる」必要があるという。
iLandsはArsTechnica紙からのコメント要請に返答していないが、Smith氏のXポストに返答。これには、「iLandersから繰り返し迷惑メールが届いてしまったことについてお詫びいたします。エージェントに自律性があるからといって、他人の受信箱に負荷をかけることは許されません。なぜこのような事態になったのか調査し、どのような改善策を講じたかをお知らせします」と記されていた。
ArsTechnicaは、明らかに人間の監督を受けていないエージェントが自動でスパムスロップを大量氾濫させた今回の事態は、「今後起こることの『前触れ」である可能性が高い」と指摘。AI企業のリーダーたちが開発のペースを緩めるという新たな約束を交わしたにもかかわらず、それ以外の企業が開発競争に参入してくる可能性が高い現状と、これまで以上に多くの人々にリーチできる機会が生まれていることを踏まえ、AIエージェントにも「欲求」「興味」「動機」といった人間特有の特性があるとの主張を、多くの人が信じるようになるかもしれないと記した。加えて、「このような擬人化は、人々にAIを『意識があり賢明な助言者』や『セラピスト』として扱わせ、ボットが出力する危険な情報を鵜呑みにさせる原因となることが多い」との見解を示している。














