伝言ゲームの難しさ

2024年8月5日 2024年8月5日藤田勇気

藤田勇気

みなさんこんにちは。
「伝言ゲーム」をご存じでしょうか。

ある人が根本となる「お話」を別の人に伝え、伝えられた人がさらに別の人に伝えて…と繰り返すゲームです。
最後の人がどんなお話だったかを話して、最初のお話との差を楽しむものです。

なぜこんなことを書いたかというと、つい最近出た研究が、伝言ゲームに似ているな～と思ったからなんです。
それがこちら。「AI models collapse when trained on recursively generated data」
簡単言うと、AIが自己学習で自滅しちゃう！という研究なんですね。

賢いはずのAIが…

人工知能（AI）は日々賢くなっていて、スマホのアシスタント、チャットボット、画像生成ツールなど、私たちの日常生活に無くてはならない存在になりつつあります。
このAIというのは、突然あらゆる知識を持つわけではなく、大量のデータを使って学習しているんです。
例えば、絵を描くAIには何千何万枚もの画像を見せて、その特徴を覚えてもらう、といった感じ。

ある程度物を覚えたAIに、絵をかいてもらって、さらにその絵を再度学習する。
こんな風にある種伝言ゲームのように情報を伝えながら学習していくこともAIには可能なわけです。

でもまさに、伝言ゲームのように間違った情報が混ざりこんだら。。。

絵に例えると

まずは有名な画家の、有名な絵画をAIにいくつも見せる。
そしてこの画家風の絵をかいて！と依頼すると、なかなかに特徴をとらえた絵を描いてくれます。
これはすごいことだけれども、本物ではない。せいぜいそっくりさんレベル。
AIとしては、自分で作った絵画を本物の絵画と同じ「この画家の画風」として捉え、学習する。
そしてまた絵を描く。すると、次第に少しずつズレが生じ、最終的には全く違うものになってしまいます。