A identificação não é um princípio ético, mas um truque sujo!

Desde que comecei a trabalhar no projeto Laila, um ecossistema de Inteligência Artificial para apoiar um agente conversacional dedicado a negócios, aprendi que a IA oferece imensas oportunidades de desenvolvimento e inovação, mas a maioria das empresas que afirmam utilizá-la infelizmente estão colocando em prática uma mera estratégia de marketing.

O vídeo viral do Google Duplex

Assim que foi apresentado ao mundo, o Google Duplex imediatamente atraiu a atenção da web. Apresentado durante o Google IoT 2018, esta tecnologia baseada em Inteligência Artificial consegue personificar um ser humano que pretende, em nome do seu utilizador, marcar uma sessão no cabeleireiro e uma mesa no restaurante, sustentando, com ambos os negócios, uma conversa telefónica bastante fluida.

O vídeo de demonstração parece real, mesmo que para muitos é falso. Certamente as conversas, que parecem bastante complexas, se não foram montadas artisticamente são certamente o resultado de muitas tentativas e um pouco de sorte: em duas chamadas telefônicas bem-sucedidas não sabemos quantos outros Google Duplex podem ter falhado miseravelmente.

O efeito da apresentação me lembra a grande palestra que a Amazon fez quando em 2013, com um vídeo no Youtube, apresentou ao mundo Amazon Prime Air, o inovador sistema de entrega baseado em drones; esse sistema revolucionário, depois de muitos anos, ainda está em fase experimental e nós, meros mortais, nos acostumamos com a ideia de que "todas" essas ficção científicas encontradas são, no final, apenas uma nova maneira de fazer vídeos virais.

O que me impressionou no Google Duplex é o pequeno teatro montado em torno de uma suposta questão ética já levantada algumas horas após a publicação do vídeo e imediatamente relançada pelos mais importantes jornais online. Em suma, segundo alguns: as IAs que simulam o comportamento humano apresentam um problema ético se disfarçam sua natureza e fingem ser humanas.

Instantâneo da resposta do Google: "Duplex será imediatamente identificável para o seu interlocutor".

Vamos dar um passo para trás

O Google sempre nos habituou a usar suas tecnologias, nunca revelando como são feitas e como funcionam. Seu mecanismo de busca é representativo dessa filosofia: o algoritmo subjacente é um segredo industrial de valor inestimável, ninguém se considera capaz de revelar seus segredos. E justamente por sua natureza insondável, nos acostumamos a não questionar sua eficácia, real ou presumida. Nós apenas usamos.

Não importa se ao passar de uma página para outra de uma pesquisa o número de resultados muda; ou se algo emergir de nossa pesquisa que nunca pensamos associar à nossa intenção.

No entanto, essas pequenas falhas aparecem aos nossos olhos como meras imperfeições, pequenas falhas em um sistema tão sofisticado que às vezes duvidamos que era o Google quem estava certo e nós estávamos errados.

Por exemplo, o Google Search Suggest, o sistema de preenchimento automático com o qual o Google sugere o que procurar enquanto escrevemos. Este sistema, que para mim levanta muito mais problemas éticos que o Google Duplex, parece útil e inteligente, mas por trás de sua eficácia esconde um truque de hackers reais: o mecanismo de busca do Google funciona em "palavras-chave", grupos de palavras que representam a intenção de pesquisa de seus usuários. Cada nova palavra-chave é a expressão de uma necessidade e requer um processamento específico para que o Google possa responder adequadamente. O Google tem um poder computacional imensamente grande, mas hoje é impraticável imaginar organizar os resultados de seu mecanismo de acordo com “qualquer combinação possível de palavras”.

O Google Search Suggest levanta questões muito mais éticas do que o Google Duplex.

Por esse motivo, o Google presta atenção apenas às palavras-chave que foram expressas o suficiente para ser uma necessidade generalizada. Para todo o resto, ele improvisa: palavras semelhantes, semelhanças com outras palavras-chave, identificação de textos aleatórios são os sistemas aplicados para lidar com aquelas situações que de outra forma aparecem sem saída.

O número de resultados, como o de páginas, muda ao avançar a página de pesquisa e você nunca consegue inspecionar os resultados além de uma determinada página: sejamos claros, os resultados que estão na página 30 não servem para ninguém, mas por que afirmam que a palavra-chave "hastes impressas" tem 160 resultados se menos de 300 puderem ser visualizados?

A sugestão de pesquisa do Google é a maneira como o Google tenta "nos antecipar": ao sugerir uma intenção de pesquisa já conhecida, o Google tenta nos guiar para uma pesquisa à qual é capaz de responder sem truques: convencer o usuário a usar uma chave O Google não apenas retorna um resultado útil, mas evita ter que adicionar uma nova palavra-chave à lista daquelas para as quais terá que gastar parte de seu poder de computação.

Indulgência operacional-funcional

Voltando ao Google Duplex, estamos em 2022 e não falamos sobre isso há algum tempo, mas com essa experiência aprendemos que identificar como um sistema conversacional artificial não é a resposta para um problema ético, mas um truque de hacker: se aqueles que conversar com Duplex está ciente de que está falando com um sistema automatizado, ele também sabe que deve se movimentar adequadamente, apoiando-o na conversa e ajudando-o a entender seu conteúdo.

Para o Google Duplex, identificar-se como um sistema artificial não é a resposta para um problema ético, mas sim um truque de hacker.

Quando falamos com Cortana, Alexa, Siri, sempre usamos automaticamente as mesmas expressões, as mesmas fórmulas, porque isso é essencial se quisermos evitar não ser compreendidos pelos nossos sistemas.

A identificação é para o Google Duplex uma forma de obter das pessoas a "compreensão" de seus limites, uma forma de indulgência operacional-funcional que todos nós humanos aprendemos a ter com aquela tecnologia que, ao se esforçar, não devolve tudo o que tem criadores que eles prometem.

Artigo de Gianfranco Fedele