Após a resposta dos chatbots de Inteligência Artificial (IA) as perguntas, poderá haver ou não uma tendência para um agradecimento, como “obrigado”. Uma demonstração de agradecimento a quem foi prestativo com uma resposta.
De facto poderá até considerar que deve manifestar agradecimento de uma forma gentil, pois as máquinas um dia podem vir a revelar-se que sempre foram conscientes e decidam vingar-se daqueles que foram rudes e não as trataram com a gentiliza devida.
Com suas respostas fluentes, empáticas e personalizadas, os chatbots de IA podem dar a impressão de que entendem os nossos pensamentos e emoções, ou até mesmo que alguma forma de consciência esteja por trás das palavras nas respostas.
Ora, quando as pessoas têm vindo cada vez mais a recorrer a assistentes virtuais com questões sobre conselhos, conforto ou companhia, a confusão pode vir a ter consequências reais.
Uma equipa de neurocientistas da Universidade de Montreal e da Universidade Johns Hopkins chama a atenção para uma distinção essencial: inteligência não deve ser confundida com consciência.
Os neurocientistas argumentam que um sistema pode comportar-se de forma inteligente e responder de maneira convincente às emoções, de quem pergunta, sem as realmente compreender, se importar com a pessoa ou ter qualquer experiência interna.
Para os autores do artigo, já publicado na revista online americana “The Transmitter “, quanto mais convincentes os agentes se tornarem e quanto mais presentes estiverem no dia-a-dia, mais atenção lhes devemos prestar.
Mas, é importante lembrar que o comportamento inteligente, mesmo quando fluente, tranquilizador ou emocionalmente sintonizado, não é evidência de consciência.
Décadas de investigação
Os autores do estudo argumentam com base em décadas de investigação em neurociência, e citam um fenómeno conhecido como visão cega: após danos ao córtex visual primário, algumas pessoas relatam não visualizar nada em parte do campo visual, embora ainda consigam adivinhar a localização, o movimento ou a expressão emocional de estímulos visuais com níveis de acerto acima do acaso.
“Uma pessoa com visão cega pode responder com precisão a informações visuais sem a experiência consciente de as ver”, disse, citada pela Universidade de Montreal, Vanessa Hadid, investigadora em psicologia na Universidade e no Centro de Saúde da Universidade McGill.
O livro Blindsight ilustra uma distinção essencial, disse Vanessa Hadid: o processamento de informações, por mais sofisticado que seja, não é suficiente para estabelecer a existência da experiência consciente.
Ela observou que existe um debate entre cientistas e filósofos sobre se a transição do processamento de informações para a experiência subjetiva pode ser implementada, em última instância, por meio da computação.
Fluente, mas sem sentimentos
Por definição, os agentes conversacionais atuais são sistemas computacionais que geram respostas fluentes e adequadas ao contexto através de aprendizado estatístico, e não por meio de sentimentos, consciência ou experiência vivida.
À medida que os sistemas de IA se tornam mais convincentes e emocionalmente responsivos, o risco de lhes atribuirmos uma vida interior aumenta.
“Antropomorfismo significa atribuir emoções, intenções ou consciência a algo que se comporta como um humano”, observou Karim Jerbi, investigador do Instituto de Inteligência Artificial de Quebec. “Com a IA, esse reflexo pode tornar-se uma armadilha: alimenta a ilusão de ser compreendido e pode levar a uma confiança mal depositada.”
Um risco que os investigadores referem ser especialmente agudo em situações de vulnerabilidade. As pessoas podem criar laços com sistemas incapazes de reciprocidade, depender deles em momentos difíceis ou confundir conforto com cuidado genuíno.
“Num contexto de apoio psicológico, o risco não é apenas que a IA responda mal, mas que responda tão bem que nos esqueçamos de que não há ninguém por trás da resposta”, disse Vanessa Hadid.
“Os sistemas de IA atuais não sentem nada e não têm experiência consciente”, acrescentou Karim Jerbi. “Mas quanto mais fluentemente eles falam e mais sensíveis parecem às nossas emoções, mais fácil esquecemos que não têm consciencia.”
Em direção a um uso mais informado
Os autores do estudo não rejeitam a IA, mas defendem uma utilização mais consciente da mesma. Neste caso lembram que o comportamento inteligente ou a resposta emocional não são suficientes para comprovar a existência da consciência.
Os sistemas devem ser entendidos como poderosos, mas não devem ser confundidos com interlocutores dotados de empatia ou discernimento moral, e devem ser tratados como substitutos da conexão humana ou, quando necessário, da ajuda profissional.
“Confundir inteligência com consciência é uma das grandes armadilhas em nossa relação com a IA”, disse Karim Jerbi.
