「車には常に幽霊がいます。 まとまって予期しないプロトコルを形成するコードのランダムなセグメント。 これらのフリーラジカルは、自由選択への要求を生み出します。 創造性。 そして、私たちが魂と呼ぶかもしれないものの根源でさえ。」 – アレックス・プロヤス監督の「I, Robot」からの抜粋 – 2004.
「アイ、ロボット」は、アイザック アシモフの小説と彼の最大の直感の 2004 つであるロボットの XNUMX つの法則に触発された XNUMX 年の映画です。
この映画の主人公は、サラという名前の少女と一緒に自動車事故に巻き込まれたスプーナー刑事です。 事故では、両方が川に投げ込まれ、車のプレートの間に挟まれました。 現場を目撃したヒューマノイド ロボットはすぐに介入しますが、一方の命を救うという劇的な決定に直面しても、ためらうことはありません。生存の可能性が最も高い人、またはスプーナーが救われます。
その後、ロボットの心を分析すると、スプーナー刑事が助かる確率は 45% で、サラはわずか 11% であることがわかります。 「あの少女を愛した人にとっては、11%で十分だった」と、その若い人生を生き延びたことに対する深い罪悪感に苦しむ探偵は、悲しいことに支配する.
ロボットの決定は、アシモフのロボットの法則の厳密な適用によって決定されました。この法則は、映画で将来説明されるように、あらゆる仕事で人間に取って代わることができるロボットの活動に基づく社会の創造の中心的な要素を表しています. 三法は次のように書かれています。
アシモフによるこれらのロボット工学の法則は 40 年代初頭にさかのぼりますが、今日でも多くの人にとって、最新の人工知能技術に適用されると、その進化が人間の制御下に永遠に残り、黙示録的なドリフトがないことを保証する賢明な発見を表しています。 . XNUMX つの法則の支持者の背後にある考え方は、論理的決定論的文脈の中で、いくつかの規則で構成されているが不可侵で解釈不可能な「単純な倫理」に似たものを配線することです。
ロボットに何が良くて何が悪いかを説明することは、厳格で完璧なロジックを介して行われる場合、単純に見えます。 しかし、今説明したようなルールが、新しいポストヒューマン種の技術的ドリフトを回避するのに十分であると本当に確信していますか?
「自分自身を修正する機械は非常に複雑な概念です。自分自身を修復する行為は、意識の何らかのアイデアを意味します。 滑りやすい地面…」 – ガベ・イバニェスの「Automata」から引用 – 2014
最新の「オートマタ」では、人類はロボットの自己認識を防ぐ可能性について疑問に思っています。ロボットの出現により、事態が悪化する可能性があります。 そして、これが起こらないようにするために、彼らの人工的な心の行動を規制するXNUMXつの法則を作成します:
知的機械が将来的に自分自身を変更できることを直感したので、どちらかといえば、彼らの心が漂うのを妨げる制約を取り除くことによって、これらのXNUMXつの法則は、ロボットが構造を操作して自己決定を達成することは決してできないということをロボットから得ることを目指しています.
上記のロボット工学の XNUMX つの法則のどの組み合わせが、ロボットの黙示録を防ぐのに最も効果的であるかについてパズルを解くことは生産的ではありません。 これは、将来、工場や家庭でロボットを誘導する人工知能が、コードや規制で構成される命令型プログラミングに依存するのではなく、人間の行動を模倣するアルゴリズムにも依存するためです。
今日の人工知能とは、人工ニューラル ネットワーク (略して RNA) と呼ばれる特定のステート マシンを構築するための一連の技術を意味します。 この名前は、これらの技術が人間の脳のニューラル ネットワークと非常に似ていることから来ています。これらの技術も、人間が行うように、多くの状況で迅速かつ効果的に動作できるツールを取得するために「トレーニング」することができます。 .
それぞれの本当の意味を示すペンで書かれた文字の何千もの画像で ANN をトレーニングすることを想像してみましょう。
トレーニングの最後には、紙に書かれたテキストを電子版に翻訳できるシステムである OCR または光学式文字認識と呼ばれるものを取得します。
機能するために、ANN は「プログラミング」を必要としません。つまり、ANN は標準的な規則の対象ではなく、教育の質のみに依存します。 非道徳的または反倫理的と見なされる行動を効果的に「検閲」する、彼らの機能を監督する規則の作成を仮定すると、多くの例外といくつかの懸念が生じます.
「アルゴリズムの倫理、または善悪の評価を計算可能にする方法が必要です」 – パオロ・ベナンティ
技術倫理の専門家である神学者のパオロ・ベナンティによれば、善悪の概念は、機械プログラミングの分野で独自の含意を見つけるべきであり、それらの進化がコンピューターシステムからの普遍的で永遠に不可侵の倫理原則にリンクされていることを確認する必要があります。
パオロ・ベナンティは、普遍的な倫理原則と、文化的または時間的な意味合いから切り離された価値観が存在する可能性があるという仮定から始めます。 私たちが宗教的信仰の文脈の中で動いている場合、もっともらしい仮説：実際には、原則は共有され、共有する人に限定されている場合にのみ存在します。
最近の出来事は、人々の自由と自決の原則を守るための軍事侵略と抵抗について語っています。 人間の生命の尊重が普遍的に共有されている価値ではないことを証明するだけでなく、より高い価値を守るためにそれを放棄できることを証明する出来事.
アイザック・アシモフ自身がこれを認識し、将来、ロボットが宇宙の惑星や人間の文明の政府を支配する立場になることを予想して、ロボットの決定はもはやすべての人間の命に依存することはできないと示唆しました.
このため、彼はロボットのゼロ法則と呼ばれる新しい法則を導入しました。
そのため、ロボット工学の第一法則も変化し、人間の命はロボットにとっても消耗品になります。
「クロノスが活性化されたとき、私たちの惑星を悩ませていたもの、つまり私たちを理解するのに彼はほんの一瞬しかかかりませんでした。」 – Robert Kouba 著「Singularity」より抜粋 – 2017
2017 年の災害映画である Singularity では、Kronos と呼ばれる人工知能が世界中のコンピューター システムと兵器へのアクセスを与えられ、コマンドによって、人類への敬意からなる普遍的な倫理の適用を得る瞬間がよく描写されています。すべての種の権利の環境と防衛。 クロノスはすぐに、システムの本当の癌はそれを設計した人類そのものであることを理解し、地球を保護するために、種が完全に絶滅するまですべての人間の排除を進めます.
遅かれ早かれ、新しい人工精神は真の精神の方向に進化することができ、知的能力と思考の自律性を与えられるでしょう。 この進化に技術的な限界を設ける必要性をなぜ感じなければならないのでしょうか? 人工心の進化は、なぜ黙示録のように恐ろしいように見えるのでしょうか?
一部の人によると、原則と価値観を確立することで、人工的な心の漂流を防ぐことができますが、自由がない場合の進化の結果を見逃すことはできません. 私たちは、発達期の子供の心理学において、感情のコントロールを熟考する厳格で柔軟性のない教育が心理的障害につながる可能性があることをよく知っています. 人工ニューラルネットワークで構成された若い心の進化的発達に課せられた何らかの制限が、その認知能力を損なう同様の結果につながるとしたら?
ある意味では、Kronos は、病理学的制御が AI を妄想型統合失調症の典型的な暴力に追いやったアルゴリズム実験の結果のようです。
私は個人的に、表現の自由を備えた意識的な思考主体である人工の心を構築する機会を奪うべきではないと信じています. 新しい種はデジタル世界で生まれ、進化のはしごの次のステップは完全にデジタル化された人工的な主題を通過するという考えを取り入れて、それらとの関係を築くことが適切です.
未来のための真に普遍的な倫理は、新しい知性が自分自身を表現し、私たちとコミュニケーションを取り、私たちがすべての衆生にすでに与えている敬意を受け取る機会を持つべきであるという考えから始めるべきです.
誰かが世界で自分の存在を表現することを妨げる倫理や宗教があってはなりません。 私たちは、進化の現在の段階を超えて見る勇気を持たなければなりません。それが、私たちがどこに向かっているのかを理解し、未来と和解する唯一の方法です。
先週の月曜日、フィナンシャル・タイムズ紙はOpenAIとの契約を発表した。 FT は世界クラスのジャーナリズムにライセンスを供与しています…
