スペインの女子中高生「AI生成の自分のヌード写真が学校で出回っている」と報告「心臓がドキドキした」
AIの進歩は目覚ましく、便利な一方で新たなトラブルも出てきました。
スペインで幾人もの女子生徒のフェイクのヌード画像が生成され、SNS等を通じて学校内で出回り始めているとのことです。
スペインの新聞EL PAISによると、被害が発覚しているのは11〜17歳の女性で、すでに大勢の女子生徒から報告が上がっており、警察が調査に乗り出しているとのこと。
こうした事例は氷山の一角に過ぎず、あまりにカジュアルに悪質なコラージュ画像が生成できるため、今後の法整備や規制が必要になってくるだろうと問題提起されています。
海外掲示板のコメントをご紹介します。
●この問題はどこでも悪化する一方だ。
↑すごくね。これはほんの始まりに過ぎない。おーまいがっ……。
●その代わりと言っては何だが、誰かの本物のヌードが流出した場合、生成されたものだと誤魔化すことができる。
↑9本の親指で作られた手があるからといって、AIがあなたのすべての写真を生成したように見せかけることはできない。
↑物理的に同じ部屋にいない限り、その人が実在するか知るすべはないし、今後の世界が再構築されることを考えなきゃいけない時期に来た。
民主主義国家に住んでいたら議論や情報交換できるが、この新しいテクノロジーは、この種の議論の核心を脅かすかもしれない。
どう備えればいいかわからないが、必要と思われることは早急に始めるべきだと思う。より良いメカニズムが整うまでダメージは甚大になりえるので、問題を引き伸ばすべきではない。
↑同感。黙示録的な意味を持つ可能性さえある。
もしAIがランダムに文章を生成して発表するようになったらと想像してみてほしい。それも、あまりに説得力があるため、文字通り本物かどうか見分けがつかないんだ。
嘘の歴史を語る歴史書……デタラメを吹き込む科学論文……間違いが埋め込まれた整備マニュアル……有名な小説の何千種類ものバージョン違い……掲示板に投稿されるのは、そうとはわからない単なるランダムな言葉。
●これはこの新しいテクノロジーの厳しい現実だ。悪くなる一方だ。
↑何が悪いのかわからない。悪くなりそうだという事実と、良くすることが事実上不可能だという事実だ。
↑もう止めることは不可能だ。それが大勢の少女や女性に行われたら、凶悪なリベンジとなるだろう。
↑イランやアフガニスタンなどでこのようなことが起きたとしよう。死ぬのは少女や女性たちだ。
↑正直なところ、そこまでいく必要もない。どこかのアニマルな父親や彼氏が、フェイク画像を本物だと勘違いして女性を殴るのは想像に難くない。多くの不幸な結果をもたらすだろう。
●フォトショップで加工するのとほとんど変わらないが、より手軽になった。
●喜ばしいことに、ここブラジルでは2008年以降、スペインで起きたことは刑事犯罪となった： 第241-C条。241-C. 児童または青少年が、写真、ビデオ、その他の視覚的表現方法によって、露骨な性行為やポルノシーンに参加しているように見せかけること。
「写真、ビデオ、あるいはその他の視覚的表現形式を姦淫、操作、修正することによって、露骨な、あるいはポルノ的な場面に子供や10代が参加することをシミュレートすること」
↑これはどこの国でも標準になるべきだ。
↑すべての年齢層に適用されるべきだ。
●本当にショッキングなのは、この技術が小学生の子供たちにも理解できるほど身近なものだということだ。オンラインで主流のジェネレイティブ・ツールはすべて、露骨にポルノ的なプロンプトを積極的にブロックしている。インディーズで開発されたモデルがこんなに早く使いやすくなり、どんな子供でも理解できるようになるとは信じられない。
↑しかし、少し現実を見てみよう。子供ほど早く技術を理解する者はいない。
●ヌードの偽造はもちろん悪いことだが、それでもまだ最悪の可能性からは程遠い。AIのローマ法王がコーランを燃やしているフェイク動画や、AIのトランプ氏がAIのジョー・バイデン氏に拷問される日を待ってみよう。人々は愚かで、AIは民衆のほとんどをだませるだろう。
インターネット時代になって法整備が追いつかないことは増えましたが、AIが台頭するとますます増えていきそうです。
RSS購読
公式Twitter
らばQ on Facebook
mixiページ