1960年代のAI創世記から続く議論がある。それはAI (Artificial Intelligence=人工知能) か、IA (Intelligence Augmentation=知能拡張) かという対立だ。今でこそ”AI”は世の中にあふれているが、当時は実現するかもわからず、概念としての議論が主だった。マービン・ミンスキーはAIの創始者の一人として汎用的・自律的な知能を目指し、マウスを発明したコンピューターUIの創始者ダグラス・エンゲルバートは、人間中心の知能の拡張を目指した。
AIは人間の知能を置き換えることを目的としていて、IAは人間の学習や能力を強化することを目的としている。現在のLLMは、人間の価値に従うように会話の応答を学習していて、自律的に行動するまでには至っていない。人間の知識や判断を拡張するIAの範疇の中にある。OpenAIのようなAI企業が実現しようとしているAGIは、真のAIとして、人間の知能を置き換えることを目指している。
AIの真の能力を発揮するために、判断が遅い人間とはコミュニケーションしない前提での学習をした方が“高性能”になる可能性があるだろう。一方で、その“高性能”が人間の価値に合ったものになるかというアラインメントや、仕事を代替する失業も課題にあがる。
IAの思想からすれば、人間が主体的にAIを使って知能を拡張するという補完的な関係となる。そのため、AIの監督やインターフェースの設計が重要になる。エンゲルバートは技術と人間の共生・共進化を視野に入れ、人間中心のシステム設計と技術が人間に適応すべきだという主張をした。
これからのAIがどちらに向かうのか、どちらの立場が望ましいのか、改めて考える必要がある。