死の夜明けの人工知能

彼の年次会議で re: 2022年火星 Amazon は、人工知能のおかげで、Alexa が実際の人間の声を真似ることで、すぐに私たちに話しかけることができるようになると発表しました。

Alexaプロジェクトの科学ディレクター、Rohit Prasadでした。 Artificial Intelligence、彼の基調講演で、新しい機能のおかげで、Amazon スマートスピーカーにより、ユーザーは個人的な関係を「永続的な」もの (「永続的な個人的な関係」) に変換できるようになると述べています。

誰かが Prasad が何を指しているのかわからなかった場合、Alexa の方を向いた小さな男の子の画像が大画面で彼女に尋ね、「おばあちゃんは『オズの魔法使い』を読み終えることができますか?」と尋ねました。 Alexa は即座に「OK!」と応答します。 その瞬間から、デバイスから年配の女性の声が聞こえ、フランク・バウムのおとぎ話を子供に読み上げ始めます。

「このシナリオに登場する祖母は、もう私たちと一緒にいません」と、CBSニュースのジャーナリストであるトニー・ドクピルはアルジッドに判決を下します コメント プラサドのプレゼンテーション。

初めては必ずある

すでに 2017 年 XNUMX 月に、WIRED によって公開されたサービスがセンセーションを巻き起こしました。 YouTubeビデオ インタビューでは、「瀕死の父親を AI に変えた」コンピューター技術者の話をしています。

James Vlahos は、父親が不治の病で亡くなっていることに気づいたとき、父親の思い出を音声ファイルとテキスト ファイルの長いリストに保存し、スマートフォンに保存することにしました。

しかし、これはほんの始まりに過ぎませんでした。ジェームズは、人工知能アルゴリズムを介して、父親の最も適切な音声とテキストを返すことで、携帯電話が質問に答えられるようにし、XNUMX 人の会話を可能にしました。 ジェームズの意図では、アルゴリズムは父親の死後も父親との会話を再び可能にするものであり、実際にそうなった.

しかし、インタビューは最後に奇妙な展開を見せる。 ジェームズが亡くなった父親に「私を愛していますか？」と尋ねるとき。 答えは少し言い逃れのようです。 私はあなたがいなくて寂しいです！ 私たちは何について話したいですか？」.

そして、ジェームズは何が起こったのかについて深く反省し始めるのです。 「父親はこのような質問に対する答えを知っているはずですが、そうではありません。 つまり、私は彼がそれを言うのを聞きたかったのです。」

そして、これが状況が複雑になるところです。

ループに入る

James の経験はビジネスになり、人々が AI を通じて故人とつながることを約束する非営利団体になりました。 大切な人の思い出をアプリに転送して、誰でも蘇生できる有料サービス。

しかし、亡くなった愛する人と接触することの深い心理的影響を考慮すると、このサービスが新しい予測不可能な社会的混乱につながる可能性があることを排除することはできません. たとえば、喪に服するのではなく、ループのように幸せな人生経験に固定されたままになるために有料サービスに依存する人々の社会に住む準備ができているでしょうか? 今日、私たちの記憶が自己防衛の観点からつらい記憶を処理するとしたら、明日、それらを操作することで、それらを決して苦しくなく、常に人為的に幸せなものに変えることができるとしたら、どのようになるでしょうか?

アマゾンは科学の進歩を促進するのではなく、製品を配置する新しいスペースを探し、これまで誰も挑戦しなかった場所を探します。

Alexa が実在の人物の声とトーンを再現する技術は、以前から知られているアルゴリズムです。 私たちは言うことができます：太陽の下で新しいものは何もありません。 破壊的であることを約束するのは彼らの適用であり、現代の倫理の限界に達する挑発です。

Alexa を使用して、Amazon は各ユーザーの周りに、愛する人や亡くなった人が住む真の記憶のメタバースを構築したいと考えているようです。 過去にさよならを言うのではなく、ソフトウェアのおかげで過去を無限に追体験することを選択できる安堵の場所。

事態は複雑になる

ジェームズ・ヴラホスが、（亡くなった）父親が彼に愛情を示すことができないことに不満を感じ、ある日、コードの数行、彼の性格のこの側面、および彼が望んでいた父親のように変更することによって「修正」することを決定したとしたらどうなるでしょうか?

また、Alexa ユーザーがスマート スピーカーに、私たちにとって完全に生きた人間の役割を演じさせ、私たちがまだその必要性を感じていなかった新しい形のデジタル フェティシズムを助長するように指示するのを、誰が止められるでしょうか?

失望した恋人がアレクサを愛の対象に変えることを想像してみましょう。彼女の性格を修正して、彼女自身の感情的でユーモラスなニーズに合わせることを忘れないでください。 これは、人間関係を軽視し、最も脆弱な人々の生活を、現実から切り離され、多国籍サービス企業が主導する技術ツールに固定された新しい形の愛情に突入させる方法でしょうか?

しかし、なぜ？

Amazon の目標は、人々の注目を集め、より多くの人々をオンライン活動に参加させるツールを作成することです。 ユーザーの関与はすでに私生活の多くの領域に関係しており、必要に応じて感傷的な領域を含む新しい領域に移動して占有することがAmazonの意図です.征服地が私たち一人一人のプライバシーにある占領戦争のように.

しかし、感情や痛みを利用することが新しいフロンティアである場合、この行動の倫理的意味を真剣に検討する必要があります。新しいテクノロジーを利用して、操作の形となる新しい形の関与を作成しようとする人のために、この分野を自由に残してはなりません.

私たちはおそらく、新しい世代を、テクノロジーによって感傷的に養われ、自分の人生経験の中で自然に進化することができない主題の群れに変えたいと思っているのでしょうか?

アルティコロ・ディ Gianfranco Fedele