Perkiraan waktu membaca: 9 minuti
Pada awal 2023, chatbot ChatGPT OpenAI yang populer dan kontroversial mengalami masalah hukum besar: larangan efektif di Italia. Otoritas Perlindungan Data Italia (GPDP) menuduh OpenAI melanggar aturan perlindungan data UE, dan perusahaan telah setuju untuk membatasi akses ke layanan di Italia saat mencoba menyelesaikan masalah tersebut. Pada tanggal 28 April, ChatGPT kembali ke negara tersebut, dengan OpenAI dengan ringan menangani masalah GPDP tanpa membuat perubahan besar pada layanannya – sebuah kemenangan yang nyata.
GPDP menegaskan untuk “menyambut” perubahan yang dilakukan oleh ChatGPT. Namun, masalah hukum perusahaan — dan masalah perusahaan yang membangun chatbot serupa — mungkin baru saja dimulai. Regulator di beberapa negara sedang menyelidiki bagaimana alat AI ini mengumpulkan dan menghasilkan informasi, mengutip berbagai kekhawatiran dari perusahaan yang mengumpulkan data pelatihan tanpa izin hingga kecenderungan chatbot untuk menyebarkan disinformasi.
Di UE, mereka memberlakukan Peraturan Perlindungan Data Umum (GDPR), salah satu kerangka hukum privasi paling kuat di dunia, yang dampaknya mungkin juga dirasakan di luar Eropa. Sementara itu, anggota parlemen Eropa sedang mengerjakan undang-undang yang secara khusus akan menangani kecerdasan buatan, kemungkinan mengantarkan era baru regulasi untuk sistem seperti ChatGPT.
ChatGPT adalah salah satu contoh AI generatif paling populer, istilah umum yang mencakup alat yang menghasilkan teks, gambar, video, dan audio berdasarkan permintaan pengguna. Layanan ini kabarnya menjadi salah satunya aplikasi konsumen yang paling cepat berkembang dalam sejarah setelah mencapai 100 juta pengguna aktif bulanan hanya dalam dua bulan setelah diluncurkan pada November 2022 (OpenAI tidak pernah mengonfirmasi angka tersebut).
Orang menggunakannya untuk menerjemahkan teks ke berbagai bahasa, menulis esai universitas dan menghasilkan kode. Tetapi para kritikus, termasuk regulator, telah menyoroti keluaran ChatGPT yang tidak dapat diandalkan, masalah hak cipta yang membingungkan, dan praktik perlindungan data yang curang.
Italia adalah negara pertama yang pindah. Pada tanggal 31 Maret, dia menyoroti empat cara yang menurutnya OpenAI melanggar GDPR:
Tidak ada negara lain yang mengambil tindakan seperti itu. Namun sejak Maret, setidaknya tiga negara UE – Jerman , Perancis e Spanyol – telah meluncurkan penyelidikan mereka sendiri ke ChatGPT.
Sementara itu, di seberang Atlantik, Kanada sedang mengevaluasi masalah privasi berdasarkan Undang-Undang Perlindungan Informasi Pribadi dan Dokumen Elektronik, atau PIPEDA. Dewan Perlindungan Data Eropa (EDPB) bahkan telah menyiapkannya gugus tugas khusus untuk membantu mengkoordinasikan penyelidikan. Dan jika agensi ini meminta perubahan pada OpenAI, mereka dapat memengaruhi cara kerja layanan untuk pengguna di seluruh dunia.
Kekhawatiran regulator dapat secara luas dibagi menjadi dua kategori:
ChatGPT menggunakan model bahasa besar (LLM) GPT-3.5 dan GPT-4 OpenAI, yang dilatih pada teks produksi manusia dalam jumlah besar. OpenAI berhati-hati tentang teks pelatihan mana yang digunakannya, tetapi mengatakan itu mengacu pada "berbagai sumber data yang tersedia untuk umum, dibuat, dan dilisensikan, yang mungkin termasuk informasi pribadi yang tersedia untuk umum."
Ini berpotensi menimbulkan masalah besar di bawah GDPR. Undang-undang tersebut diberlakukan pada tahun 2018 dan mencakup semua layanan yang mengumpulkan atau memproses data warga negara UE, di mana pun organisasi yang bertanggung jawab berada. Aturan GDPR mengharuskan perusahaan untuk memiliki persetujuan eksplisit sebelum mengumpulkan data pribadi, memiliki justifikasi hukum untuk alasan pengumpulannya, dan bersikap transparan tentang cara penggunaan dan penyimpanannya.
Regulator Eropa mengatakan kerahasiaan data pelatihan OpenAI berarti tidak ada cara untuk mengonfirmasi apakah informasi pribadi yang dimasukkan pada awalnya diberikan dengan persetujuan pengguna, dan GPDP secara khusus berpendapat bahwa OpenAI "tidak memiliki dasar hukum" untuk mengumpulkannya sejak awal. Sejauh ini OpenAI dan lainnya lolos dengan sedikit pengawasan, tetapi pernyataan ini menambah tanda tanya besar pada upaya pengikisan data di masa mendatang.
Lalu ada " hak untuk dilupakan ” dari GDPR, yang memungkinkan pengguna untuk meminta perusahaan memperbaiki informasi pribadi mereka atau menghapusnya sepenuhnya. Buka AI sebelumnya telah memperbarui kebijakan privasinya untuk memfasilitasi permintaan tersebut, tapi ya itu diskusi apakah secara teknis memungkinkan untuk mengelolanya, mengingat betapa rumitnya memisahkannya data spesifik setelah mereka dimasukkan ke dalam model bahasa besar ini.
OpenAI juga mengumpulkan informasi langsung dari pengguna. Seperti platform internet lainnya, ia mengumpulkan a kumpulan data pengguna standar (mis. nama, informasi kontak, detail kartu, dll.). Tetapi yang lebih penting, ini mencatat interaksi yang dilakukan pengguna dengan ChatGPT. Sebagai dinyatakan dalam FAQ , data ini dapat ditinjau oleh karyawan OpenAI dan digunakan untuk melatih versi modelnya yang akan datang. Mengingat pertanyaan intim yang diajukan orang ke ChatGPT, menggunakan bot sebagai terapis atau dokter, ini berarti perusahaan mengumpulkan semua jenis data sensitif.
Setidaknya sebagian dari data ini mungkin telah dikumpulkan dari anak-anak, sementara kebijakan OpenAI menyatakan bahwa "tidak dengan sengaja mengumpulkan informasi pribadi dari anak-anak di bawah usia 13 tahun", tidak ada kontrol usia yang ketat. Ini tidak sesuai dengan aturan UE, yang melarang pengumpulan data dari orang di bawah usia 13 tahun dan (di beberapa negara) memerlukan izin orang tua untuk anak di bawah 16 tahun. Di sisi keluaran, GPDP mengatakan bahwa kurangnya filter usia ChatGPT mengekspos anak di bawah umur a "tanggapan yang benar-benar tidak memadai dibandingkan dengan tingkat perkembangan dan kesadaran diri mereka".
Juga kecenderungan ChatGPT untuk memberikan informasi palsu bisa menjadi masalah. Peraturan GDPR menetapkan bahwa semua data pribadi harus akurat, sesuatu yang disorot oleh GPDP dalam pengumumannya. Tergantung bagaimana datangnya definite, bisa menimbulkan masalah bagi sebagian besar pembuat teks AI, yang cenderung ” allucinazioni.dll “: Istilah industri yang bagus untuk jawaban yang benar-benar salah atau tidak relevan untuk sebuah pertanyaan. Ini telah melihat beberapa dampak dunia nyata di tempat lain, seperti yang dialami walikota regional Australia mengancam akan menuntut OpenAI karena pencemaran nama baik setelah ChatGPT secara salah mengklaim bahwa dia telah menjalani hukuman penjara karena korupsi.
Popularitas ChatGPT dan dominasi pasar AI saat ini menjadikannya target yang sangat menarik, tetapi tidak ada alasan mengapa pesaing dan kontributornya, seperti Google dengan Bard atau Microsoft dengan AI Azure berdasarkan OpenAI, tidak menghadapi pengawasan. Sebelum ChatGPT, Italia melarang platform chatbot Replika untuk pengumpulan informasi tentang anak di bawah umur dan sejauh ini tetap dilarang.
Meskipun GDPR adalah kumpulan undang-undang yang kuat, GDPR tidak dibuat untuk mengatasi masalah AI tertentu. Aturan itu , Namun, mereka mungkin berada di cakrawala.
Pada tahun 2021, UE mempresentasikan draf pertamanyaUndang-Undang Kecerdasan Buatan (AIA) , undang-undang yang akan bekerja sama dengan GDPR. Undang-undang tersebut mengatur alat AI berdasarkan risiko yang dirasakan, dari "minimal" (hal-hal seperti filter spam) hingga "tinggi" (alat AI untuk penegakan hukum atau pendidikan) atau "tidak dapat diterima" dan karenanya dilarang (seperti sistem kredit sosial). Setelah ledakan model bahasa besar seperti ChatGPT tahun lalu, pembuat undang-undang sekarang berlomba untuk menambahkan aturan untuk "model inti" dan "sistem Kecerdasan Buatan Tujuan Umum (GPAI)" - dua istilah untuk skala buatan sistem intelijen termasuk LLM - dan berpotensi mengklasifikasikan sebagai layanan berisiko tinggi.
anggota parlemen Uni Eropa telah mencapai kesepakatan tentatif atas UU AI pada tanggal 27 April. Sebuah komisi akan memberikan suara pada draf tersebut pada 11 Mei, dan proposal akhir diharapkan pada pertengahan Juni. Oleh karena itu, Dewan Eropa, Parlemen dan Komisi harus melakukannya menyelesaikan perselisihan yang tersisa sebelum menerapkan hukum. Jika semua berjalan lancar, itu bisa diadopsi pada paruh kedua 2024, sedikit di belakang target resmi pemilihan Eropa Mei 2024.
OpenAI masih memiliki tujuan untuk dicapai. Masih ada waktu hingga 30 September untuk membuat batasan usia yang lebih ketat agar anak di bawah 13 tahun tidak masuk dan memerlukan persetujuan orang tua untuk remaja di bawah umur yang lebih tua. Jika gagal, mungkin akan diblokir lagi. Tapi itu memang memberikan contoh tentang apa yang dianggap Eropa sebagai perilaku yang dapat diterima untuk perusahaan AI, setidaknya sampai undang-undang baru disahkan.
Ercole Palmeri
Operasi oftalmoplasti menggunakan penampil komersial Apple Vision Pro dilakukan di Poliklinik Catania…
Mengembangkan keterampilan motorik halus melalui mewarnai mempersiapkan anak untuk keterampilan yang lebih kompleks seperti menulis. Mewarnai…
Sektor angkatan laut adalah kekuatan ekonomi global sejati, yang telah menuju pasar 150 miliar...
Senin lalu, Financial Times mengumumkan kesepakatan dengan OpenAI. FT melisensikan jurnalisme kelas dunianya…
