Cotação
0 items
quinta-feira, 3 de agosto de 2023
Assistentes de voz com IA já estão em desenvolvimento
Já imaginou se a Alexa previsse suas necessidades? Assistentes de voz com IA serão reais - e a ética por trás é mais importante do que parece.
Se você perguntar para a Alexa, da Amazon, ou para o Google Assistente qual será a temperatura amanhã, ambas assistentes de voz irão responder prontamente. Agora, já imaginou se esses recursos fossem equipados com IA e, antes mesmo de você fazer a pergunta, as assistentes te avisam para, por exemplo, levar um guarda-chuva ao sair?
Dispositivos equipados com a tecnologia neste nível ainda não existem, mas a pesquisa para fazer isso acontecer já está em andamento - e, com isso, surgem questionamentos éticos necessários.
Assistentes de voz com IA
Uma das possibilidades das assistentes de voz com IA seria ajudar idosos que passam por um declínio cognitivo, ao exercitar a comunicação, lembrá-los de tarefas cotidianas ou até antecipar necessidades - como, por exemplo, comprar um utensílio de casa ou lavar as roupas.
Uma vez que essa tecnologia já está sendo desenvolvida, pesquisadores do National Sciencie Foundation AI Institute for Collaborative Assistance and Responsive Interaction for Networked Groups (AI-CARING), uma agência independente em prol da ciência e da engenheria nos Estados Unidos, resolveram detalhar algumas questões éticas antecipadamente, na esperança que os designers de IA considerem isso em seus projetos.
Riscos
Para Borenstein, se os riscos não forem levados em conta, uma família pode confiar que um parente idoso está seguro aos cuidados da IA, quando na verdade não está.
Os cientistas ainda reforçam que, uma vez que uma pessoa confia na tecnologia, ela se torna mais exposto a ela. Todo esse risco está acentuado com os idosos, um grupo que normalmente está mais vulnerável e pode se tornar ainda mais dependente da IA conforme um declínio cognitivo avança.
Qual seria solução para as assistentes de voz com IA
-Segundo os pesquisadores, se os projetos de assistentes de voz com IA realmente prezam pelo usuário, levarão em conta aspectos de confiança, segurança, privacidade e até as mudanças nas habilidades cognitivas de uma pessoa.
-Além disso, eles indicam que o sistema deve ser em prol do usuário, não de uma corporação que queira apenas comercializar o produto.
-No entanto, apesar de destacarem a privacidade, os cientistas afirmam que, para desenvolver um sistema avançado a esse nível, deve-se levar em conta diferentes fontes de informação, o que pode ser atingido com o compartilhamento de dados. Porém, isso significaria expor o usuário a riscos de privacidade.
-Para mitigar isso, eles propõem que o usuário esteja ciente e possa controlar as permissões de compartilhamento.
Transparência
Outro ponto levantado pelos pesquisadores, que incluíram suas propostas no artigo Questões éticas em assistentes inteligentes de apoio social em um futuro próximo para adultos mais velhos,
publicado na revista IEEE Transactions on Technology and Society, é deixar claro o que a IA pode e não pode fazer.
Segundo eles, a confiança excessiva é um problema e solicitar que a tecnologia faça mais do que ela é capaz pode resultar em resultados inesperados.
Fonte: OLHAR DIGITAL
Voltar