Spawner では生成モデルを含む、様々な AI モデルを利用しています。生成モデルは学習したデータセットに基づいて、元のデータセットには存在しないものを生成することができる AI モデルの種類です。生成モデルが、デベロッパーやクリエイターの視点から想定外の出力をする現象を「ハルシネーション」と呼びます。特に、人間から見ておかしな内容を出力する場合があります。
例えば、当初 Google の AI モデルがユーザーに対して岩を食べることを提案したように、生成モデルは人間から見ておかしな内容を出力する場合があります。こうした明らかなハルシネーションは生成モデルの開発が進む過程で減少しています。しかし確率的な出力が生成モデルの特性である以上、ハルシネーションを 0.0％にすることはできません。事前定義されていない出力をすることが生成モデルの強みですので、不確実性を前提とした体験設計が必要です。なお、Spawner では Atlas を使用してハルシネーションを抑制できるほか、タスクに応じて異なる AI モデルを使用しています。
