Há muito que a inteligência artificial deixou a seara da ficção científica e foi incorporada no dia a dia. Seja aspirando pó dentro de casa, seja operando pacientes nos hospitais, já é quase impossível imaginar a vida sem as máquinas maravilhosas da modernidade. Mas, apesar dos inúmeros benefícios, inclusive educacionais, robôs também têm suas desvantagens. Um estudo de pesquisadores europeus publicado na revista Science Robotics mostrou que os modelos humanoides - aqueles que se aproximam da imagem de um humano, com braços, pernas e voz, por exemplo - exercem uma influência até então inimaginável sobre as crianças.
Preocupada com o fato de muitas empresas lançarem robôs para interação com o público infantil, a cientista da computação Anna-Lisa Vollmer, da Universidade de Bielfeld, na Alemanha, conduziu um estudo com adultos e meninos e meninas entre 7 e 9 anos para verificar o grau de confiança que eles depositam nas máquinas humanoides. Além dela, participaram da pesquisa cientistas da Universidade de Plymouth, no Reino Unido; do Instituto de Desenvolvimento Humano Max Planck, na Alemanha; e da Universidade de Ghent, na Bélgica.
O estudo teve como fio condutor um experimento da década de 1950, de Solomon Asch, conhecido como teste da conformidade. Nesse tipo de pesquisa, a intenção é investigar a pressão social na conformidade, ou seja, o quanto um grupo pode influenciar a opinião de um indivíduo, mesmo quando a informação que passa é falsa. Só que, no trabalho dos europeus, em vez de influenciadores de carne e osso, três robôs Nao assumiram o papel. Esse modelo de máquina, desenvolvido pela francesa Aldebaran Robotics, tem apenas 57cm de altura, mas pode executar várias tarefas, como cantar, gesticular, dançar, jogar futebol e até conversar. Ele pode ser programado para desenvolver habilidades simples e complexas e tem sido muito utilizado em atividades educativas e terapêuticas, como na assistência a crianças com autismo e em comunidades de idosos.
Pressão social
O estudo foi dividido em duas partes. Na primeira, a intenção foi verificar se adultos sofriam influência dos pequeninos robôs. O teste clássico desenvolvido por Asch é bastante simples. O participante vê a imagem de três linhas verticais (A, B e C), cada uma de uma altura bem definida. Em seguida, o pesquisador mostra apenas uma linha e pergunta com qual das três ela combina em tamanho. A tarefa dos robôs é tentar influenciar o voluntário a errar, afirmando que uma linha pequena, por exemplo, faz par com uma grande. O experimento foi repetido, com os robôs sendo substituídos por três pessoas.
No caso dos adultos, quando o responsável por tentar convencê-los a errar era um grupo de humanos, alguns foram induzidos à incorreção. Contudo, a máquina não conseguiu influenciar nenhum dos voluntários de 18 a 69 anos a dar uma reposta incorreta. Com os pequenos participantes, porém, o resultado foi diferente. “As crianças cederam à pressão social do grupo de robôs”, afirma Vollmer. Quando estavam sozinhas na sala com o pesquisador, no geral, os meninos e as meninas pontuaram corretamente em 87% das vezes. Porém, na companhia dos robôs, o escore baixou para 75%, sendo que 74% das respostas erradas eram iguais às das máquinas humanoides.
“O que nossos resultados mostram é que os adultos não estão em conformidade com o que os robôs dizem, mas as crianças sim. Isso mostra que as crianças, talvez, tenham mais afinidade com os robôs do que os adultos, o que levanta uma questão: e se os robôs sugerissem, por exemplo, quais os produtos que elas deveriam comprar ou o que elas deveriam pensar?”, questiona Tony Belpaeme, professor de robótica das universidades de Plymouth e Ghent e coautor do estudo.
Vollmer concorda: “Há situações em que o robô exercer influência é vantajoso, como no caso das aplicações em saúde e educação. Mas, obviamente, não podemos desconsiderar usos abusivos ou errados. Por exemplo, como lidar com uma situação em que vários robôs em uma loja fazem propaganda de um produto e incentivam uma pessoa a comprá-lo mesmo se, de outra forma, ela não o faria? Outros riscos incluem casos em que robôs de aprendizado autônomo tiram conclusões incorretas de seus dados sensoriais e acabam induzindo as pessoas a erros”, observa.
Proteção
Os cientistas dizem que, por não ter sido esse o objetivo do estudo, não é possível dizer o que faz com que as crianças confiem nos robôs, mesmo quando eles estão errados. Vollmer diz que uma hipótese é a de que os pequenos não tenham sido influenciados pelos robôs diretamente, mas tenham transferido para eles a autoridade que atribuíram ao pesquisador que acompanhou os testes.
Para os autores do trabalho, o resultado estimula discussões. “Um futuro em que robôs sociais autônomos são usados como ajuda para profissionais da educação ou terapeutas infantis não está distante. Nessas aplicações, o robô está em uma posição na qual a informação fornecida pode afetar significativamente os indivíduos que interagem com eles. Uma discussão sobre medidas protetivas, como um quadro regulatório, deve ocorrer para minimizar o risco às crianças durante a interação social com robôs e o que se pode ser feito para não afetar o desenvolvimento desse campo tão promissor”, escreveram.
PALAVRA DE ESPECIALISTA
Paulo César Rodrigues Borges, professor de interface
Estímulo ao debate
“Esse é um artigo excelente, que não ficará empoeirado em uma prateleira: renderá muita discussão. O trabalho conclui que as crianças tendem a considerar robôs como iguais e os aceitam muito bem. Como estão em formação, elas recebem o que esses artefatos dizem sem ressalvas e tendem até a se intimidar por eles, pensando que os argumentos dos robôs são os de uma autoridade. Isso pode tolher a inciativa, atrapalhar o discernimento e a tomada de decisão. A inteligência artificial deixou de ser algo romântico na década de 1980 e já é uma realidade, incluindo os sistemas educacionais. Por isso, tem de haver muita responsabilidade, pois há aspectos éticos importantes a serem considerados. Esse artigo é muito promissor, até porque, quando o computador quântico chegar, haverá uma revolução na inteligência artificial. Poderá ser uma era como as dos filmes Eu, robô e O exterminador do futuro”.
Limitados para substituir professores
Embora os robôs possam desempenhar um importante papel na educação das crianças, eles jamais substituirão professores, segundo estudo publicado na revista Science Robotics. De acordo com os autores, limitações técnicas, principalmente em relação ao reconhecimento do discurso e à habilidade de interação social, fazem com que eles sejam ótimos assistentes ou tutores - mas, jamais, mestres. Ao menos no futuro próximo.
“Nos últimos anos, cientistas começaram a construir robôs para a sala de aula - não os kits de robôs usados para aprender sobre tecnologia e matemática, mas robôs sociais, que podem realmente ensinar”, observa o autor do trabalho, Tony Belpaeme, professor de robótica da Universidade de Plymouth e da Universidade de Ghent. “No sentido mais amplo, os robôs sociais têm o potencial de se tornar parte da infraestrutura educacional, assim como papel, lousa e tablets. Mas eles não conseguem apoiar e desafiar os alunos, pois são limitados. O que podem fazer é poupar um tempo precioso para os professores, permitindo que eles se concentrem no que as pessoas ainda fazem melhor: fornecer uma experiência educacional compreensiva, empática e recompensadora”, aposta.
O estudo envolveu uma revisão de mais de 100 artigos publicados sobre o uso de robôs em sala de aula. Eles mostram que, enquanto essas máquinas parecem melhorar os resultados educacionais dos alunos, algumas restrições técnicas, como reconhecimento de fala, ainda são muito grandes para permitir que eles entendam enunciados de crianças pequenas. Também diz que a introdução de robôs sociais no currículo escolar representaria desafios logísticos significativos e poderia, de fato, acarretar riscos, com algumas crianças sendo vistas dependendo muito da ajuda oferecida pelos robôs, em vez de simplesmente usá-las quando estão em dificuldades. “Além das considerações práticas da introdução de robôs na educação, há questões éticas. Até que ponto queremos que a educação de nossos filhos seja delegada às máquinas?”, questionam os autores, na conclusão do trabalho.
Anna-Lisa Vollmer, pesquisadora da Faculdade de Tecnologia da Universidade de Bielfeld
1) Há alguma característica particular nos robôs que tornam as crianças mais vulneráveis a eles?
As crianças parecem formar facilmente laços fortes com esses robôs sociais. Pelo nosso experimento, não podemos determinar exatamente quais os fatores responsáveis por isso. Esse deverá ser objeto de estudos futuros. Contudo, as crianças são conhecidas pelo “faz de conta”, algo que explica suas atitudes diferentes em relação a coisas como brinquedos, marionetes e histórias. Sabemos que algo similar ocorre com robôs: em vez de vê-los como uma máquina feita de eletrônicos e plástico, elas enxergam um personagem social. Isso pode explicar o porquê de elas sucumbirem à pressão dos robôs.
2) O que se pode fazer para proteger as crianças de programadores mal-intencionados?
Nesse cenário, os robôs seriam desenhados com o objetivo de ludibriar. Contudo, problemas podem se originar não apenas da programação maliciosa intencionalmente, mas também pela presença sem intenção de sistemas artificiais ou da interpretação errada de dados autônomos compilados por um sistema de autoaprendizado. Por exemplo, se os robôs recomendam produtos, serviços ou preferências, a confiança e, consequentemente, a convergência serão maiores que nos métodos de propaganda tradicionais? Decisões sobre o policiamento do comportamento do robô nesse estágio do desenvolvimento podem ser muito precoces, mas é importante que mais pesquisas sejam feitas com a exposição de crianças a esse tipo de tecnologia. No meio tempo, quadros regulatórios para robôs sociais podem entrar em cena. Isso seria similar às regulamentações existentes para publicidade, por exemplo.