「そこにはある危険が潜んでいる」: 最初のチャットボットの発明者がどのようにして AI に敵対したのか

May 30, 2023

コンピューター科学者のジョゼフ・ワイゼンバウムは、人工知能の黎明期に存在しましたが、彼はまた、コンピューターと人間を決して混同してはならないとも断固として主張していました。

1966 年に、ジョセフ ワイゼンバウムという MIT 教授が最初のチャットボットを作成しました。 彼はそれを心理療法士の役にキャストした。 ユーザーは、メインフレームに接続された電動タイプライターにメッセージを入力します。 しばらくして、「心理療法士」が返答します。

ユーザー: 男性はみんな似ています。チャットボット: どのような方法でユーザー: 彼らはいつも何かについて私たちを悩ませています。チャットボット: 具体的な例を考えていただけますかユーザー: そうですね、私のボーイフレンドが私をここに来させました。チャットボット: あなたのボーイフレンドがあなたを来させてくれました。 HEEUser: 彼は私がいつも落ち込んでいると言っています。チャットボット: あなたが落ち込んでいることを聞いて申し訳ありません

Weizenbaum は、チャットボットの仕組みを説明するこのサンプル交換を雑誌記事に掲載しました。 ソフトウェアは比較的シンプルでした。 ユーザー入力を調べ、一連のルールを適用して、妥当な応答を生成しました。 彼はこのプログラムを、『ピグマリオン』のイライザ・ドゥーリトルにちなんでイライザと名付けました。 ジョージ・バーナード・ショーの戯曲に登場するコックニーの花売り娘は、言葉を使って幻想を生み出します。彼女は、公爵夫人として通用するレベルまでその弁舌を高めます。 同様に、イライザは、タイプライターの前に座っている人の言葉を理解したかのような錯覚を引き起こすような話し方をします。

「（現在の脚本では）イライザが人間ではないということを説得するのが非常に難しい主題もある」とワイゼンバウムは書いている。 翌年掲載された続報の中で、彼はより具体的に述べた。ある日、彼の秘書がイライザとの時間を要求したと彼は述べた。 しばらくして、彼女はワイゼンバウムに部屋から出るように頼みました。 「この逸話は、プログラムが理解しているという幻想を維持することに成功していることを証明していると思います」と彼は述べた。

イライザはまったく無名ではありません。 これは当時物議を醸し、ボストン・グローブ紙は記者を派遣してタイプライターの前に座らせ、会話の抜粋を掲載しましたが、今でもコンピューティングの歴史の中で最もよく知られた開発の 1 つです。 最近では、ChatGPT のリリースにより、ChatGPT に対する関心が再び高まっています。 昨年、イライザはガーディアン紙、ニューヨーク・タイムズ紙、アトランティック紙などで呼び掛けられた。 60 年近く前のソフトウェアのことを人々が今でも考えている理由は、当時の標準から見てもそれほど洗練されていなかったその技術的側面とは何の関係もありません。 むしろ、イライザは、私たちがコンピューターとどのように関係するかに強い影響を与える人間の心のメカニズムを明らかにしました。

ジークムント・フロイトはキャリアの初期に、患者たちが自分に恋をし続けていることに気づきました。 それは彼が特別に魅力的だったり、容姿が良かったからではないと彼は結論づけた。 その代わりに、もっと興味深いことが起こっていました、それは転移です。 簡単に言うと、転移とは、過去の誰かに対する感情を現在の誰かに投影する傾向を指します。 それは精神分析を行うことによって増幅されますが、すべての人間関係の特徴です。 私たちが他の人々と交流するとき、私たちは常に幽霊のグループを遭遇させます。 私たちの以前の人生、そして何よりも子供時代の残滓は、私たちがお互いを見るためのスクリーンです。

この概念は、イライザに対する人々の反応を理解するのに役立ちます。 ワイゼンバウムは、人々が理解、共感、その他の人間の特性をソフトウェアに帰しているという、コンピューター化されたバージョンの転移に遭遇しました。 彼自身がこの用語を使用したことはありませんでしたが、彼には精神分析に関する長い歴史があり、後に「イライザ効果」と呼ばれるようになるものをどのように解釈したかを明確に示していました。

コンピューターの能力が向上するにつれて、イライザ効果はさらに強まるばかりです。 多くの人が ChatGPT にどのように関わっているかを考えてみましょう。 チャットボットの内部には、一連の文字、単語、または文章の次の文字列を予測するようにトレーニングされた数学システムである「大規模言語モデル」が組み込まれています。 ChatGPT の特徴は、その基礎となる大規模な言語モデルの複雑さだけではなく、その不気味な会話音声です。 Meta のデータ サイエンティストである Colin Fraser 氏が述べているように、このアプリケーションは「ユーザーをだまして、実際にはその場にいない誰かと話しているように思わせるように設計されている」のです。