數據保護和人工智能——意大利的擔保人禁止“Replika”聊天機器人，這對未成年人來說是有風險的

Replika 是一個聊天機器人，具有書面和語音界面，基於模擬人類行為並創造個性化對話體驗的人工智能，生成一個“虛擬朋友”，用戶可以決定將其配置為朋友、伴侶浪漫或導師。

在開發者的網站以及兩個主要的“應用程序商店”中，Replika 被展示為一個聊天機器人，能夠改善用戶的情緒和情緒健康，幫助他了解自己的想法和感受，跟踪情緒，學習應對（即壓力管理）技能、平息焦慮以及朝著積極思考、壓力管理、社交和尋找愛情等目標努力。

尋找幸福

自古以來，人類就一直在嘗試追求幸福的實踐，幸福被理解為“情感、心理、身體、社會和精神的幸福狀態，使人們能夠在社會中發揮並保持個人潛力”。 defi歐洲觀察站衛生委員會關於衛生系統和政策的建議。 即使在今天，考慮到新技術的發展水平，準備數字工具來支持他人尋求福祉也是合法的。

有些人認為幸福是一種只能靠自己實現的條件，對其他人來說，需要老師或其他類型的指導，對其他人來說，仍然可以通過自然療法、健康飲食、運動和冥想等等。 那麼為什麼不通過新技術呢？ 為什麼不能通過人工智能 ?

如果我們認為情緒、心理、身體、社會和精神的幸福狀態可以通過使用理性來建立和維持，理解為計算能力，那麼最好依靠智能算法，能夠快速處理大量我們人類無法想像的大量數據。

另一方面，如果我們認為在樹林里或海邊散步後，在聽過音樂會或在體育場後，在擁抱了朋友或聽了他對未來的計劃後，可以達到這個條件生活，那麼我們就可以了解新技術的代理力量，能夠通過指導我們的行為來建立智力和社會關係。 我們不能低估新技術對我們“生活”的方式和我們周圍世界的影響，它既帶來風險，也帶來積極的潛力。 困難在於自覺地在風險和利益之間自拔，試圖拉開其中一個而不失去另一個。

在這兩種情況下都有危險。

今天，個人數據保護擔保人（參見 2 年 2023 月 XNUMX 日的規定）已準時監督數據處理規則的遵守情況，防止聊天機器人向未成年人提供絕對不適合其發展和意識水平的內容，這可以幫助營造對機構的信任氛圍。 然而，當實現正式監管框架的合規性，確保正式合規性時，我們將擁有什麼工具以及我們如何監督所有處於情緒脆弱狀態的主體？

保護個人數據是保護人的基本權利和自由，保護其心理和身體的完整性，但往往會因無意識地使用數字和新興技術以及缺乏共同的道德要素而受到損害。

BlogInnovazione.it