ポエム

生成型AIについての所感 2024年2月版

投稿日:

昨年5月、生成型AIに関して考えていることをまとめた
このときから月日が経ち、状況がより悪化しているように思うので、改めて自分の最新の考えを残しておこうと思う。

さて去年時点と比較してどう状況が変わったかというと、「アンモラルな生成型AIサービスが台頭してきた」という点だと思う。名指しで言ってしまうとNovelAIの画像生成サービスのことだ。探せば他にもあるだろうが。
この画像生成サービスは明らかな版権イラスト、それも公式イラストやアニメ雑誌のピンナップにそっくりな画像を多数出力できる。出力できるのだから、そういった情報源で学習したと安易に想像できる。
画像生成AIとしての実力も十分に高いので人気を集めているが、とにかく情報源に関してアンモラルが過ぎる。
なおここでいうモラル/アンモラルとは、合法/非合法の尺度ではなく、社会通念から見て倫理的/非倫理的かどうかを指す、私の主観に基づく判断である。
NovelAIが法に触れているとは言っていないし、合法だからこそ金を取って商売をしているのだろうが、しかし明らかに非倫理的だ、と私は思う。

また、動画界隈でもディープフェイクと呼ばれる生成型AIを使ったニセ映像の作成がはびこっており、有名人のスキャンダラスな映像や、災害現場のスクープなど、とにかくアンモラルな映像を生成型AIに作らせてネット上で注目を集めるのが世界的に流行している。

他にも作曲やライティングの分野でもAIの進歩があるらしく、JASRACが文化庁に意見書を提出しそれに界隈が賛同を示すなど、かつては「JASRACは悪の天下り企業だ」などと揶揄されていた時代もあったのに時代は変わるものだ。それはさておき。

近年の生成型AIは非倫理的な人たちによって良いように使われすぎている、と思う。
そこで最近は自分も、「非倫理的な用途に利用できるAIモデル」自体を法的に規制するべきではないか、という方向に考えが変わってきた。
公開しているAIモデルの用途を限定できないのであれば、AIモデルを公開することを禁止にしなければならないのかもしれない。そう思いつつある。

でも人間だって他の人の作品を練習台にしているじゃないか、人間に許されていることならAIにも許されるんじゃないのか。
AIモデルの存在自体を規制するのはおかしい、というのがこれまでの自分の意見だった。
しかし最近になって、「AIと人間では規模と速度が違う」という点について真剣に考えるべきだと気がついた。
規模と速度が違う。全てはそこに集約されるのだと思う。
生成型AIは、人間と比較して学習先が大規模すぎるし、出力が高速すぎる。人間との差は桁が1つ2つでは済まない。

たとえば漁業。船で海に出たとする。
釣り竿で魚を一本釣りすることは認められても、底びき網漁業は禁止だ。なぜか。
底びき網漁業は魚を根こそぎ取り尽くして、生態系を見出してしまうからだ。そうなれば将来魚が取れなくなる。
だから、「魚を採る」という意味では竿釣りも底引き網も同じであるが、規模と速度が大きすぎる底びき網漁業は禁止なのだ。
今風の流行語を使うと、持続可能性というやつだ。底びき網漁業には持続可能性がない。

AIもそうだろう。AIの速度で学習し出力されてしまっては、人間は到底太刀打ちできない。
そのような速度で野放図に学習と出力を繰り返されると、生身のクリエイターによる創作活動は商売として成り立たなくなってしまう。
コンテンツの過剰な供給はユーザーの高速な消費を促し、あらゆるコンテンツが短期的な流行だけで終わる時代が来てしまうかもしれない。
もし無限に服の入った四次元ポケットを持っていたら、多くの人は毎日別の服を着るだろう。逆に一つの服は一日しか着てもらえないということだ。
無限にイラストの湧いてくるAIに慣れてしまったら、一つの絵はきっと一度しか見ないだろう。そして、人間の描いた絵も同じ扱いを受けるに違いない。
これでAIがオリジナルコンテンツだけを出力するのであれば時代の流れと言い張ることもできるが、出力するものが特定のクリエイターの模造品なのだから、個人や企業に対する営業妨害以外の何物でもない。

生成型AIという技術は凄いものだ。革新的だし、上手く使えば世界を豊かにする。
しかし現状の実態は、道徳観の足りていない利用者が短期的な収益を得るために非倫理的なコンテンツを出力するための道具に成り下がってしまった。
そして生成型AIで商売をしている一部の企業は、そんな現状を憂うどころか積極的に乗っかってすらいる。

銃を持つためには免許が要る。これは持つための免許というだけではなく、販売する側にも免許の確認という責任を負わせる。もちろん、銃を自作することも犯罪だ。
生成型AIにも同様の許可と責任が必要なのではないか。
生成型AIをどう作るか、どう使わせるか。アンモラルな用途に用いられることはないか。
そういう点について、「既存の法の中で十分対処ができるでしょう」という状態では、もはやないように思う。
健全なAIモデルを健全に使う。生成型AIに関わるモラルの明文化と、法律の制定が必要な時期にあるのではないだろうか、と思うこのごろ。

-ポエム

執筆者:

関連記事

no image

いま将来を考えてるあなたへ

突然変なこと言うけど、大学に行くべきか行かないべきかっていうのは難しい問題だと思うんじゃよね。 大学っていうのは高度な学問を学ぶ場であると同時に、「将来を考える」ことから逃げるモラトリアムでもあるの。 …

no image

俺はプログラミングできるし絵も描ける。上手くないだけ。

正月から刺身タンポポの記事を読んでて触発されたので乱文かきます。 刺身タンポポ あの記事もまぁ乱文なのでまとめにくいんだけど、「お前らプログラミング下手くそだなこの野郎」という愚痴ですわな。 俺も院生 …

まんがタイムきらら展が良かったので行くべき

まえおき 漫画読みにとって、出版社というのはときに味方でありときに敵である。 個人的には出版社に対して好意を抱く回数より、敵意を抱く回数のほうが多い。 好きな漫画が打ち切りエンドを迎えたとき、好きな雑 …

no image

実印を作って印鑑業界は要らないと理解した話

もくじ まえがき 皆さんは実印って持ってますか。 自分は持ってなかったんですよ実印。必要になったことないし。 それが去年作るハメになったので、その顛末と印鑑文化に対する恨みを書いておきたいと思います。 …

no image

2019年、VTuberについて思うこと

2017年~2018年の年末年始にVTuberという存在がブレイクして、どういうわけか一年間も流行が続いている。俺はと言えばこのサイトでも岩本町芸能社やキズナアイちゃんについて度々取り上げていて、Tw …