Заштита на податоци и вештачка интелигенција - Гарантот во Италија наметнува стоп за чат-ботот „Реплика“, ризичен за малолетниците

Replika е чет бот, со пишан и вокален интерфејс, базиран на вештачка интелигенција, кој симулира човечко однесување и создава персонализирано искуство за разговор, генерирајќи „виртуелен пријател“ кој корисникот може да одлучи да го конфигурира како пријател, партнер романтичар или ментор.

На веб-страницата на развивачот, како и на двете главни „App stores“, Replika е претставена како чет-бот способен да го подобри расположението и емоционалната благосостојба на корисникот, помагајќи му да ги разбере неговите мисли и чувства, да го следи расположението, да учи. вештини за справување (т.е. управување со стресот), смирување на анксиозноста и работа кон цели како што се позитивно размислување, управување со стресот, дружење и наоѓање љубов.

Потрагата по благосостојба

Од античко време, човекот експериментирал со практики за потрага по благосостојба, сфатени како „емоционална, ментална, физичка, социјална и духовна состојба на благосостојба што им овозможува на луѓето да го достигнат и одржат својот личен потенцијал во општеството“, според defiција на Здравствената комисија на Европската опсерваторија за здравствени системи и политики. И секако е легално дури и денес, со оглед на нивото на развој на новите технологии, да се подготвуваат дигитални алатки за поддршка на туѓата потрага по благосостојба.

Некои мислат дека благосостојбата е состојба која може да ја постигне само самиот, за други е потребен учител или друг тип на водич, за други пак дека може да си помогне со природни лекови, со здрава исхрана, придобивките од спорт и медитација и многу повеќе. Па зошто да не преку нови технологии? Зошто да не можете да ја подобрите вашата благосостојба прекувештачка интелигенција ?

Ако мислиме дека емоционалната, менталната, физичката, социјалната и духовната состојба на благосостојба може да се изгради и одржува преку употреба на рационалност, сфатена како пресметковен капацитет, тогаш подобро е да се потпреме на интелигентни алгоритми, способни брзо да обработат големи количини на податоци незамисливи за нас луѓето.

Ако, пак, мислиме дека оваа состојба може да се постигне по прошетка во шума или покрај море, откако сме биле на концерт или на стадион, откако сме прегрнале со пријател или ги слушале неговите планови за иднината. живот, тогаш можеме да разбереме каква е агенцијата моќ на новите технологии, способни да воспостават интелектуални и општествени односи со насочување на нашето однесување. Не можеме да го потцениме влијанието што го имаат новите технологии врз начинот на кој „се живееме себеси“ и светот околу нас, создавајќи и ризици и позитивен потенцијал. Тешкотијата лежи во свесното извлекување помеѓу ризиците и придобивките, обидувајќи се да се дистанцира едниот и да не го изгуби другиот.

Во двата случаи постои опасност.

Денес, Гарантот за заштита на личните податоци (види одредба од 2 февруари 2023 година) точно го надгледуваше почитувањето на правилата за обработка на податоците, спречувајќи го четботот да нуди содржина на малолетници што е апсолутно несоодветна за нивното ниво на развој и свесност, а тоа може помогне да се создаде клима на доверба во институциите. Меѓутоа, кога ќе се постигне усогласеност со формалната регулаторна рамка, ќе се обезбеди формална усогласеност, какви алатки ќе имаме и како можеме да ги надгледуваме сите оние субјекти кои се во состојба на емоционална кршливост?

Заштитата на личните податоци е заштита на личноста, во неговите основни права и слободи, во неговиот психофизички интегритет, често поткопани од несвесното користење на дигиталните и новите технологии, како и од недостатокот на заедничка етичка компонента.

BlogInnovazione.it

​