IA como sua melhor amiga? Os chatbots mais recentes querem ser pessoais com você

Em seu evento de produtos em setembro, os executivos da Amazon não puderam dizer o suficiente sobre como Alexa estará ao seu lado como amiga, graças a uma injeção de atualizações de IA.

Dave Limp, vice-presidente sênior de serviços da empresa, mostrou as habilidades de conversação de Alexa, começando com uma troca de gentilezas: “Olá” e “Como vai você” e “E você?”

À medida que a conversa avançava, Limp notou que o dispositivo Alexa havia sido programado para conhecer seu time de futebol favorito e, com certeza, Alexa tinha seu próprio favorito. A conversa teve seus contratempos, mas foi tranquila o suficiente para Limp expressar seu ponto de vista: “As respostas… começaram a ser infundidas com personalidade”.

Em uma demonstração separada, Daniel Rausch, vice-presidente de Alexa e Fire TV, mostrou como o assistente de IA poderia ajudar a encontrar um filme familiar para assistir. Assim como Limp, ele enfatizou o aspecto “natural e conversacional” da interação.

“É como falar com um grande amigo que também é o melhor vendedor de locadora de vídeo do mundo”, disse Rausch.

A IA e os chatbots não são novidade, mas a interação com eles tem sido, até agora, em grande parte desprovida de gentilezas, conversa fiada e, certamente, conversas estimulantes. Mas, como podemos ver em uma série de anúncios feitos por gigantes da tecnologia nas últimas semanas sobre suas ferramentas de IA voltadas ao público e como eles esperam que interajamos com elas, nem sempre será esse o caso.

Dias após o anúncio da Amazon, a OpenAI introduziu um novo recurso no ChatGPT que permitirá interagir com seu grande modelo de linguagem por voz. Em seguida veio a Meta, dizendo que colocaria seu assistente de IA em todos os serviços existentes, incluindo WhatsApp e Instagram. Além disso, o Meta também permitirá que você personalize o assistente com a aparência e a voz de uma das muitas celebridades alistadas para emprestar sua imagem ao projeto (incluindo Snoop Dogg e Charli D’Amelio). Então, na primeira semana de outubro, Google anunciou Assistente com Bardque pretende ser o seu “ajudante personalizado” e um “verdadeiro assistente”.

O que todos esses desenvolvimentos significam é uma mudança na forma como interagimos com os computadores. Nas nossas viagens pelo mundo online, cada vez mais não estaremos sozinhos. Estaremos acompanhados por uma série de personagens de IA que eliminarão a necessidade de digitação excessiva e pressionamento de botões e nos ajudarão ao mesmo tempo que proporcionam um elemento de personalidade e companheirismo.

É algo que o fundador da Deepmind e pioneiro da IA, Mustafa Suleyman, descreveu em setembro entrevista com o MIT Tech Review como “IA interativa”. Este será, disse ele, o sucessor da IA ​​generativa que está sendo usada atualmente para produzir texto e imagens com base em entradas de dados.

Esta mudança em direção a uma versão mais social da IA ​​já vem de muito tempo. Experimentamos pela primeira vez a IA interativa habilitada por voz em 2011, quando a Apple revelou ao mundo seu assistente de voz Siri. Na época, a Siri era uma novidade que deixava as pessoas entusiasmadas (e provavelmente ajudou a persuadir algumas a comprar novos iPhones), mas era inacabada e pouco confiável de uma forma que tornava a tecnologia uma espécie de decepção na realidade.

A Siri, junto com seus pares – Alexa da Amazon e Google Assistant – melhoraram dramaticamente ao longo dos anos. Mas é só agora que, graças aos recentes avanços da IA, podemos começar a experimentar o assistente-amigo da IA ​​​​que a Apple sugeriu pela primeira vez que o Siri se tornaria há cerca de 12 anos.

A última série de anúncios verá personagens de IA falarem em voz alta conosco como se fôssemos amigos, entrarem perfeitamente em nossos feeds de mídia social e nos conhecerem para que, quando fizermos uma pergunta, eles possam usar dicas de contexto de nossas conversas anteriores para garantir que encontraremos as respostas que procuramos. Através dos poderes da aprendizagem automática, a IA tem o potencial de nos perceber através das nossas interações e mudar de forma de acordo para o tipo de companheiro que achamos mais estimulante e gratificante ter por perto.

Dependendo da sua perspectiva, essa ideia pode encantá-lo, fazer com que você se sinta desconfortável ou algo parecido. Para muitos de nós, formar um relacionamento com um personagem de IA será uma experiência totalmente nova. Mas há precedentes. Já existem chatbots de amizade com IA, como o Replika, que existe desde 2017 e permite que as pessoas criem seu próprio companheiro de IA ideal, sempre à mão em seus smartphones.

Nem todos os chatbots de IA serão projetados para serem seus melhores amigos, mas fica claro pelos anúncios das empresas de tecnologia que elas querem que nos sintamos mais à vontade com a IA, proporcionando-nos uma experiência “naturalista” – mais semelhante a conversar com outra pessoa. humano.

Podemos realmente ser amigos da IA?

Você deve estar se perguntando quão profunda poderia ser sua amizade com um chatbot de IA. Afinal, amizades são relacionamentos complexos.

É uma questão que já está sendo estudada e debatida por filósofos, psicólogos e cientistas da computação. Os primeiros resultados mostram muitas opiniões divergentes, mas alguns estudos – incluindo dois da Universidade do Havaí em Mānoa e da Universidade de Oslo que analisaram especificamente os usuários do Replika – demonstraram que algumas pessoas parecem experimentar conexões genuínas com chatbots que melhoram sua experiência. bem-estar.

Pode não ser realista esperar ser o melhor amigo de um robô ou companheiro de IA, diz-me Helen Ryland, professora associada da Open University, com sede no Reino Unido, mas é concebível que possamos ter algum grau de amizade com um robô ou IA. companheiro. “Essa relação poderia trazer benefícios sociais genuínos”, diz ela.

Nas relações humanas, existe toda uma lista de condições (incluindo empatia, carinho, admiração, honestidade e igualdade) que muitas vezes são necessárias para considerarmos alguém um amigo. Ryland argumenta que para que existam amizades entre humanos e IA ou robôs, deve haver, no mínimo, boa vontade mútua. Isso significa que você não deve desejar mal ao chatbot e vice-versa.

As pessoas que estabeleceram relacionamentos com a IA sentem que têm amizades de troca de ideias semelhantes às que têm com outros humanos, diz Petter Bae Brandtzæg, professor da Universidade de Oslo e cientista-chefe da organização de pesquisa Sintef Digital, que publicou vários estudos sobre o tema. “Eles também sentem que são responsáveis ​​por construir isso ainda mais”, diz ele.

Nem todo mundo acredita que seja possível que os humanos experimentem conexões genuínas com IA ou chatbots. Eles estão preocupados em se sentirem enganados ou manipulados por uma máquina que não pode ser verdadeiramente vulnerável com você da mesma forma que um amigo humano seria e só pode. executar empatia em vez de sentir isto.

A professora de sociologia do MIT, Sherry Turkle, que há muito estuda a relação entre humanos e tecnologia, argumenta que essa “empatia fingida… tira proveito da psicologia profunda do ser humano”. Ela pode ver por que as pessoas podem recorrer a companheiros de IA, ela escreveu na MIT Technology Review em 2020, mas ela acredita que os chatbots, “não importa quão inteligentes sejam, só podem desorientar e decepcionar”.

Devemos ser amigos dos chatbots?

Quer você concorde com a opinião de Turkle, certamente vale a pena perguntar se estabelecer conexões pessoais com a IA é algo que beneficiará e melhorará nossas vidas.

De acordo com Brandtzæg, que entrevistou muitos usuários de companheiros de IA durante o estudo das relações humano-chatbot, várias pessoas relatam benefícios. Os jovens que enfrentam dificuldades, por exemplo, tiveram resultados positivos ao falar com chatbots sem julgamentos, enquanto as pessoas que de outra forma estão isoladas aproveitam a oportunidade para uma conversa intelectualmente estimulante e descobrem que isso evita que as suas competências sociais enferrujem.

“Eles sempre tratarão você muito bem, para que você não se sinta julgado”, diz Brandtzæg. As pessoas que usam os chatbots “não sentem que entram em tensões da mesma forma que podemos fazer com relacionamentos mais humanos”.

Também há benefícios em ter alguém de plantão 24 horas por dia, 7 dias por semana, acrescenta. Talvez você não queira acordar um amigo humano no meio da noite para conversar, mas seu companheiro de IA pode estar sempre disponível e acessível.

A IA ou os robôs companheiros podem ser úteis neste contexto, mas alguns acreditam que os humanos não têm nada a ganhar com estas relações. De acordo com Robin Dunbar, professor de psicologia evolutiva da Universidade de Oxford, os amigos da IA ​​beneficiarão os humanos “apenas se você estiver muito solitário ou não puder sair facilmente para conhecer pessoas”.

Nossos amigos humanos chegam até nós com personalidades únicas totalmente formadas, diversas histórias, pontos de vista e aparências, mas os companheiros de IA muitas vezes podem se tornar o que fazemos deles – algo que preocupa Dunbar. Não apenas podemos personalizar sua aparência e voz, mas eles podem seguir nossas dicas sobre como gostamos que eles se comuniquem e se comportem.

Ao contrário dos nossos amigos humanos, que nos expõem às diferenças e à diversidade e que podem reagir se discordarem, é possível que os chatbots de IA possam amplificar o efeito de câmara de eco a que já estamos expostos nas redes sociais, em que nos rodeamos apenas de pessoas que compartilhar nossas perspectivas. “O risco é que, em vez de alargarem os seus horizontes, eles se estreitam progressivamente e é mais provável que o levem para um vórtice autocriado até um buraco negro”, diz Dunbar.

Outra preocupação, aponta Brandtzæg, é que muitos dos chatbots de IA que os gigantes da tecnologia nos impingem são feitos por empresas que lucram com os nossos dados – e devemos ter cuidado com isso, diz ele. “Eles já têm muita infraestrutura onde estamos fazendo [many tasks in] nossas vidas diárias, e isso será apenas uma nova camada.”

Ele está preocupado com o facto de, sem uma regulamentação sólida, as empresas tecnológicas americanas continuarem a impulsionar o desenvolvimento da IA ​​de uma forma que não é democrática nem do interesse público. A longo prazo, devemos considerar se o objetivo da IA ​​é transformar-nos em consumidores mais eficientes, que comprarão mais coisas, diz ele.

A manipulação é uma preocupação apresentada pelos especialistas em ética da IA, e outra é a segurança. No início deste ano, o navegador focado na privacidade e fabricante de VPN Mozilla disse que o Replika foi um dos piores aplicativos que já analisou do ponto de vista da segurança. (Nossas tentativas de entrar em contato com a Replika não tiveram sucesso.) No início deste ano, a Amazon foi multada em US$ 25 milhões pela Comissão Federal de Comércio dos EUA por supostamente não excluir dados de crianças coletados por Alexa. Se você considerar os detalhes íntimos de suas vidas que as pessoas provavelmente compartilharão com um companheiro de IA, a falta de segurança em torno desses dados confidenciais pode ser um grande problema.

Até mesmo Brandtzæg, que viu os benefícios que a companhia da IA ​​pode oferecer às pessoas, incentiva-nos a ser cautelosos ao interagir com chatbots – especialmente aqueles desenvolvidos por grandes empresas de tecnologia.

“Quando você se comunica com um chatbot, são apenas você e seu chatbot, então é muito íntimo, muito seguro, sua proteção de privacidade está baixa”, diz ele. Isso pode encorajá-lo a compartilhar mais informações do que faria ao interagir com as mídias sociais ou com o que ele chama de “a velha Internet”.

É claro que, tal como acontece com o desenvolvimento de muitas tecnologias, a tecnologia interativa está repleta de possibilidades e armadilhas – muitas das quais podemos experimentar em tempo real à medida que as empresas tecnológicas continuam a enviar-nos as suas atualizações mais recentes.

Navegar nesta nova fronteira será um desafio para todos nós, mas talvez possamos tirar algumas lições de outras relações nas nossas vidas. Estabelecer limites saudáveis, por exemplo, e não permitir que nossos novos amigos da IA ​​ultrapassem (especialmente quando se trata de acessar seus dados).

O instinto também pode desempenhar um papel. Se você sentir que algo não está certo, crie alguma distância. E lembre-se: é sempre bom ir devagar e testar primeiro o terreno – mesmo que o ritmo da inovação pareça sugerir o contrário.

Nota do editor: A CNET está usando um mecanismo de IA para ajudar a criar algumas histórias. Para mais, veja esta postagem.