AIイラスト生成サービス「mimic（ミミック）」が、悪用される可能性があると先月29日のリリース直後から炎上、わずか1日でサービスを停止した。いったい何が問題なのか。現在不正防止のための仕組み作りを進める開発元のラディウス・ファイブに、騒動の顛末（てんまつ）を聞いた。

　mimicは、デザイナーやクリエーター向けのAI開発などを行うラディウス・ファイブがリリースしたAIイラスト生成サービス。最小15枚から最大100枚までのキャラクターイラストを入力すると、AIがイラストの特徴を学習し、そのクリエーターの作風と似た独自の新しいイラストを生成する。

「弊社ではこれまでクリエーター向けのAIサービスを開発してきましたが、AI自体をクリエーターに渡すとどうなるのか、よりユーザーの役に立つ使い方ができるんじゃないかというのがmimic開発の経緯です。例えば、普段女性のキャラクターばかりを描いているクリエーターが、自分の描いたイラストを入力して同じ絵柄の男性のキャラクターを生成したり、ファンに生成したイラストを提供したり、あるいは依頼があった際に、表情やテイストといった言葉では表現しづらいものを伝えるコミュニケーションとしての役割など、さまざまな便利な使い方を見つけてほしいと開発を進めてきました」（担当者）

　一方、第三者が著作権者の許諾なくイラストを無断利用して、生成された同じ絵柄のイラストが不正に利用されるのではという懸念もあり、SNS上ではこれを指摘する声が続出。サービス開始直後から炎上し、プロモーションに協力したイラストレーターが誹謗中傷されるなど、矛先が開発元だけにとどまらず広まったことから、わずか1日でサービスを停止することとなった。

「もちろん、不正利用の可能性について当初から検討しており、規約で他人の描いたイラストの入力を禁止、生成された画像にはすべてロゴが入り、安易に悪用されないような仕組みも実装していました。ただ、ここまでの反響は想定以上で、違反者のチェックも目視で対応できる範囲ではなくなってしまいました。生成できるのは顔部分のイラストのみですが、全身イラストや背景まで生成できると誤解した方や、ロゴの透かしの存在を知らない方、イラストの権利が弊社に移ると誤解された方からも批判のご意見が殺到し、現状ではクリエーターの信頼が得られないと判断したためサービスを停止させていただきました」

　現在はサービス再開に向け、クリエーターの安心や信頼が得られるような機能を実装中だという。

「機能の実装にはもうしばらく時間がかかりますが、新たな仕様のアナウンス自体は今月中にも提示できるかと思います。弊社のサービスを利用することで、再びクリエーターに誹謗中傷が向かうことのないよう、これなら大丈夫と信頼していただける仕組みを試作しております」

　最近になって、盛んに話題となっているAI生成イラスト。まだまだ意識や制度が追いついていない側面もあるが、時代の流れにあったアップデートを期待したい。