AIが新しいAIを作り、そのAIがさらに強いAIを作る。改善が次の改善を生み、人間が変化を予測しにくくなる。このような未来像を語るときに登場するのが、技術的シンギュラリティです。
技術的シンギュラリティは、AIの能力向上や自己改善によって、技術や社会の変化が急速になり、先を見通しにくくなるという仮説的な転換点を指します。いつ起きるかが確定した予定ではありません。
目次
AIが一つの課題で人間を超えることとの違い
あるゲームで強いことと、さまざまな仕事を自分で学び、進められることは別です。さらに、仕事ができることと、自分の仕組みを改良できることも別の能力です。
AGIは一般に、幅広い課題を扱う汎用的な人工知能を指す言葉です。定義や評価方法には違いがあり、AGIという語とシンギュラリティを同じ意味で使うと、議論の条件が見えなくなります。
技術的特異点の議論に出てくる、汎用的な能力、超知能、自己改善の関係は、Stanford Encyclopedia of PhilosophyのAI倫理の項目でも紹介されています。
自己改善は、どんな輪になっている？
考え方をつかむため、架空の開発支援システムを想像します。コード案を出し、テスト結果を読み、次の修正案を作る。ここでは改善の輪が回っています。
ただし、コード案を出せるだけで、必ず性能が上がり続けるわけではありません。テストが狭ければ、点数だけを上げる変更になるかもしれません。必要な実験に時間がかかることも、計算資源が足りないこともあります。
「改善できる」から「際限なく、どんどん速く改善できる」へ進むには、もういくつもの条件が必要になります。
未来の年を見たら、その前提を見る
特定の年に到来するとする予測を見るときは、年だけを覚えるより、何がその予測を支えているかを確かめたいところです。
- 知能や能力を、何で測っているか。
- 計算資源やデータは、どのように増えると考えているか。
- AIが改良できる対象と、実験の制約は何か。
- 技術の進歩と、社会で普及する速度を分けているか。
例えば、ある処理にかかる時間が毎回半分になっても、別の作業が一日かかるなら、全体が同じ速さで縮むとは限りません。伸びている指標が、目指す能力にそのまま対応するかを考えられます。
数学や物理の「特異点」とは、文脈が違う
シンギュラリティは「特異点」と訳されます。数学では、関数などが通常とは違う振る舞いをする点を指します。例えば、1/xはx=0で定義できません。
AIの議論で同じ語を使うのは、先を見通しにくくなる急な変化を表すためです。AIの発展が1/xと同じ数式で動くことや、未来の社会に物理的な一点があることを意味しません。
遠い転換点の議論と、今確かめる問題
未来の能力について考えることと、今あるシステムの誤りや運用を確かめることは、並行して行えます。StanfordのAI100の検討課題でも、制御や超知能に関する懸念を、研究と対話を通して扱う問いが挙げられています。
アプリを作る場面なら、「どれほどすごい未来になるか」だけでなく、「この出力をどう検査するか」「失敗したら誰が戻せるか」を具体的に考えられます。
シンギュラリティは、想像を広げる言葉です。同時に、能力、自己改善、資源、社会の変化を分けて読むと、未来予測の中身を見通すための質問にもなります。
AIがデータから学ぶ仕組みの入口は、ディープラーニングの解説へ。