推定読書時間: 9 分
2023 年の初め、OpenAI の人気があり物議を醸した ChatGPT チャットボットは、重大な法的問題に直面しました。それは、イタリアでの事実上の禁止です。 イタリアのデータ保護機関 (GPDP) は、OpenAI が EU のデータ保護規則に違反していると非難しており、同社は問題を解決するためにイタリアでのサービスへのアクセスを制限することに同意しました。 28 月 XNUMX 日、ChatGPT は同国に戻り、OpenAI はサービスに大きな変更を加えることなく GPDP の問題に軽く対処しました。これは明らかな勝利です。
GPDP が確認されました ChatGPT によって行われた変更を「歓迎」します。 ただし、同社の法的問題、および同様のチャットボットを構築している企業の法的問題は、おそらく始まったばかりです。 いくつかの国の規制当局は、これらの AI ツールがどのように情報を収集および生成するかを調査しています、ライセンスのないトレーニングデータを収集する企業から、偽情報を広めるチャットボットの傾向まで、さまざまな懸念を挙げています。
EU では、世界で最も強固なプライバシー法的枠組みの XNUMX つである一般データ保護規則 (GDPR) を実施しており、その影響はヨーロッパ以外でも感じられる可能性があります。 一方、ヨーロッパの議員は、人工知能に具体的に対処する法律に取り組んでおり、ChatGPT のようなシステムの規制の新しい時代を迎える可能性があります。
ChatGPT はジェネレーティブ AI の最も一般的な例の XNUMX つです。ジェネレーティブ AI は、ユーザーの要求に基づいてテキスト、画像、ビデオ、オーディオを生成するツールを包括する用語です。 このサービスは、伝えられるところによると、 最も急成長している消費者向けアプリケーション 100 年 2022 月のローンチ後、わずか XNUMX か月で月間アクティブ ユーザー数が XNUMX 億人に達し、歴史に名を残しました (OpenAI はこれらの数値を確認したことはありません)。
人々はそれを使ってテキストを別の言語に翻訳したり、書いたりします。 大学のエッセイ コードを生成します。 しかし、規制当局を含む批評家は、ChatGPT の信頼性の低い出力、紛らわしい著作権問題、怪しげなデータ保護慣行を強調しています。
イタリアは最初に移動した国でした。 31 月 XNUMX 日、彼は OpenAI が GDPR に違反していると思われる XNUMX つの点を強調しました。
このような措置を講じた国は他にありません。 しかし、XNUMX 月以降、少なくとも XNUMX つの EU 加盟国が ドイツ , フランス e スペイン – ChatGPT に関する独自の調査を開始しました。
一方、大西洋の反対側では、 カナダ は、個人情報保護および電子文書法 (PIPEDA) に基づくプライバシーの懸念を評価しています。 欧州データ保護委員会 (EDPB) は、 専任タスクフォース 調査の調整を支援します。 また、これらの機関が OpenAI の変更を要求した場合、世界中のユーザーに対するサービスの動作に影響を与える可能性があります。
規制当局の懸念は、大きく XNUMX つのカテゴリに分類できます。
ChatGPT は、OpenAI の GPT-3.5 および GPT-4 大規模言語モデル (LLM) を使用します。これらは、人間が作成した大量のテキストでトレーニングされます。 OpenAI は、使用するトレーニング テキストについて正確には慎重ですが、「公開され、作成され、認可された、公開されている個人情報を含む可能性のあるさまざまなデータ ソース」を利用していると述べています。
これは、GDPR の下で大きな問題を引き起こす可能性があります。 この法律は 2018 年に制定され、責任を負う組織の所在地に関係なく、EU 市民のデータを収集または処理するすべてのサービスを対象としています。 GDPR 規則では、企業が個人データを収集する前に明示的な同意を得ること、収集する理由について法的に正当な理由があること、およびその使用方法と保存方法について透明性を保つことを求めています。
ヨーロッパの規制当局は、OpenAI のトレーニング データの機密性は、入力された個人情報が最初にユーザーの同意を得て提供されたかどうかを確認する方法がないことを意味すると述べており、GPDP は特に、OpenAI にはそもそもそれらを収集する「法的根拠がない」と主張しました。 これまでのところ、OpenAI などはほとんど精査されずに済んでいますが、この声明は、今後のデータ スクレイピングの取り組みに大きな疑問符を追加します。
次に、「 忘れられる権利 これにより、ユーザーは企業に対して個人情報の修正または完全な削除を要求できます。 AIを開く 以前にプライバシーポリシーを更新しました そのような要求を容易にするためですが、そうです ディスカッション 分離がいかに複雑であるかを考慮して、それらを管理することが技術的に可能かどうか 特定のデータ それらがこれらの大きな言語モデルに組み込まれたら。
OpenAI はまた、ユーザーから直接情報を収集します。 他のインターネット プラットフォームと同様に、 標準ユーザー データ セット (例: 名前、連絡先情報、カードの詳細など)。 しかし、もっと重要なことは、ユーザーが ChatGPT と行った対話をログに記録することです。 として FAQに記載されている 、このデータは OpenAI の従業員が確認でき、そのモデルの将来のバージョンをトレーニングするために使用されます。 ボットをセラピストまたは医師として使用して、人々がChatGPTに尋ねる親密な質問を考えると、これは会社があらゆる種類の機密データを収集していることを意味します.
OpenAI のポリシーでは、「13 歳未満の子供から故意に個人情報を収集することはありません」と述べられていますが、厳密な年齢制限はありません。 これは、13 歳未満の人からのデータの収集を禁止し、(一部の国では) 16 歳未満の子供には保護者の同意を必要とする EU の規則とはうまくいきません。 出力側では、GPDP は、ChatGPT の年齢フィルターの欠如が未成年者を公開していると述べました a 「彼らの発達と自己認識の程度と比較して、絶対に不十分な反応」.
また、ChatGPT の傾向 虚偽の情報を提供する 問題になる可能性があります。 GDPR 規制では、すべての個人データは正確である必要があると規定されており、これについて GPDP は発表の中で強調しています。 それがどのように来るかに応じて defiナイト、ほとんどの AI テキスト ジェネレーターにとって問題が発生する可能性があります。 幻覚 「: クエリに対する実際に正しくない、または無関係な回答を表す便利な業界用語。 オーストラリアの地方市長が行ったように、これはすでに他の場所でいくつかの現実世界の反響を目にしています。 OpenAI を名誉毀損で訴えると脅された ChatGPT が彼が汚職で懲役刑に服したと誤って主張した後.
ChatGPT の人気と現在の AI 市場の優位性により、ChatGPT は特に魅力的なターゲットになっていますが、Google と Bard や Microsoft と OpenAI ベースの Azure AI など、競合他社や貢献者が精査に直面する必要がない理由はありません。 ChatGPTの前に、イタリアはチャットボットプラットフォームを禁止しました レプリカ 未成年者に関する情報を収集するためのものであり、これまでのところ禁止されています。
GDPR は強力な一連の法律ですが、特定の AI の問題に対処するために作成されたものではありません。 ルール , ただし、それらは地平線上にある可能性があります。
2021 年、EU は、人工知能法 (AIA) 、GDPR と連携する法律。 この法律は、「最小」（スパムフィルターなど）から「高」（法執行機関または教育用の AI ツール）または「容認できない」（社会信用システムなど）まで、認識されたリスクに基づいて AI ツールを規制しています。 昨年の ChatGPT のような大規模な言語モデルの急増の後、議員たちは現在、「コア モデル」と「汎用人工知能 (GPAI) システム」 (LLM を含む知能システムの人工的なスケールの XNUMX つの用語) のルールを追加するために競争しています。 として分類する リスクの高いサービス。
EU議員 AI法に関する暫定合意に達した 27月11日。 委員会は XNUMX 月 XNUMX 日に草案の採決を行い、最終提案は XNUMX 月中旬に予定されています。 したがって、欧州理事会、議会、および委員会は、 残りの紛争を解決する 法律施行前。 順調に進めば2024年後半に採用される可能性もあり、目標よりもやや遅れる 公式 2024 年 XNUMX 月の欧州選挙の結果。
OpenAI にはまだ達成すべき目標があります。 30 月 13 日までに、XNUMX 歳未満の子供を締め出し、XNUMX 歳未満の子供には保護者の同意を求める、より厳しい年齢制限を作成する必要があります。 失敗すると、再びブロックされる可能性があります。 しかし、少なくとも新しい法律が可決されるまでは、ヨーロッパがAI企業にとって許容できる行動と見なす例を提供しました.
Ercole Palmeri
先週の月曜日、フィナンシャル・タイムズ紙はOpenAIとの契約を発表した。 FT は世界クラスのジャーナリズムにライセンスを供与しています…
