Quão Confiável é a IA?

Créditos da imagem: Pixabay

A inteligência artificial está por toda parte — elaborando e-mails, sugerindo filmes e até mesmo impulsionando carros autônomos — mas e a IA invisível? Quem (ou o quê) está trabalhando em segundo plano, criando os algoritmos que operam fora da vista? E até que ponto podemos realmente confiar neles?

Especialistas do Instituto de Ciência de Dados Halıcıoğlu da UC San Diego discutem o futuro da IA, abordando seu potencial, desafios e limitações. David Danks, professor de ciência de dados e filosofia, estuda tanto o desenvolvimento de sistemas de IA quanto seu impacto social. Lily Weng, professora assistente, lidera pesquisas para tornar a IA mais confiável e transparente, visando ganhar a confiança pública. Juntos, eles destacam a importância de equilibrar avanços tecnológicos com responsabilidade ética e social.

Como você Descreveria a IA em sua Forma mais Simples e Básica?

Danks: Em sua essência, IA é qualquer sistema que substitua, apoie ou impulsione o pensamento e a tomada de decisões humanas — semelhante a como as máquinas outrora assumiram o trabalho físico. Embora alguns possam se concentrar no aspecto técnico, eu me concentro em uma perspectiva centrada no ser humano: o que a IA capacita as pessoas a realizar.

Weng: A IA pode ser vista como um sistema que opera de forma diferente dos humanos, mas é construído para nos ajudar. O objetivo não é apenas tornar a IA mais inteligente ou eficiente, mas garantir que ela sirva e aprimore o bem-estar humano.

Qual tem Sido a Maior Surpresa com a IA se Tornando Parte da Vida Cotidiana?

Danks: O que mais me surpreende é a ânsia das pessoas em experimentar e explorar sistemas de IA. Muitas estão dispostas a investir tempo e esforço experimentando-os. Danks nota que a curiosidade sobre IA nem sempre leva à confiança, o que é bom, pois muitos sistemas ainda não são confiáveis. Apesar da aversão declarada à tecnologia, as pessoas ainda testam IA quando os riscos são baixos.

Como a “IA Responsável” Entra em Jogo?

Weng: Nosso objetivo é que a IA seja responsável e confiável — tanto para usuários quanto para desenvolvedores. Isso significa que a IA deve ser transparente sobre o que faz e como toma decisões, para que possamos avaliá-la quanto a vieses ou outros problemas. Ela também precisa ser robusta — capaz de suportar interferências ou manipulações. Em última análise, queremos que os sistemas de IA se alinhem aos princípios-chave e se comportem de maneiras que possamos esperar com confiabilidade.

A IA Está Evoluindo Rapidamente — O Que Devemos Preocupar? O Que Preocupar Vocês?

Weng: Meu laboratório se concentra na falta de transparência em sistemas de IA. Por exemplo, modelos de aprendizado profundo são muito complexos e, mesmo que tenham um bom desempenho em testes, erros inesperados ainda podem ocorrer em situações do mundo real. Trabalhamos para tornar os sistemas de IA mais interpretáveis ​​e, quando isso não é possível, nos esforçamos para torná-los mais explicáveis.

Danks: Costumo pensar nas aplicações menos óbvias da IA. Por exemplo, sei que o ChatGPT usa IA, mas quando estou dirigindo meu carro — que é essencialmente um computador sobre rodas — não tenho ideia de quanta IA está envolvida. Não sei se a IA está controlando o motor, me monitorando ou mesmo compartilhando meus dados com as seguradoras.

Embora a IA atuando nos bastidores possa melhorar as coisas, ela também introduz riscos dos quais podemos nem estar cientes, deixando-nos sem maneiras adequadas de lidar com possíveis danos. É por isso que precisamos de transparência clara sobre quando a IA está em uso e o que ela está fazendo.

Como a mais Nova Escola da UC San Diego, a SCIDS, Enfrentará os Desafios e as Questões que você levantou?

A escola oferece grandes oportunidades para pesquisadores e educadores, conectando a pesquisa fundamental do Instituto de Ciência de Dados Halıcıoğlu com aplicações comerciais em larga escala desenvolvidas pelo Centro de Supercomputadores de San Diego. Ela potencializa pesquisas que transitam do laboratório para impactos reais, comerciais e sociais. Além de abrir novas possibilidades, isso traz a responsabilidade de assegurar que o trabalho seja feito de forma ética, demonstrando que uma IA responsável é viável. Assim, a escola promove inovação com compromisso ético.

O que a IA jamais Conseguirá Substituir?

Danks: Tarefas que envolvem conexões emocionais ou empáticas genuínas com outras pessoas serão muito difíceis de serem substituídas pela IA. Embora a IA possa imitar a empatia, ela terá dificuldades em formar relacionamentos duradouros e significativos.

Outro desafio para a IA é lidar com situações em que a definição de sucesso não é clara. Esses sistemas são projetados para otimizar objetivos claros, mas em muitos cenários da vida real, o sucesso não é bem definido e frequentemente descobrimos o que importa por meio da experiência e da tentativa e erro — algo que a IA tem dificuldade em entender.

O que mais te Empolga sobre o Futuro da IA?

Weng: Estou muito entusiasmado com o potencial da IA ​​na área da saúde — especificamente como ela pode ajudar a fornecer um atendimento de maior qualidade. No entanto, a confiabilidade é um grande desafio, pois a área da saúde envolve riscos muito maiores e exige padrões de segurança rigorosos, muito além daqueles de ferramentas cotidianas como chatbots.

É por isso que ter diagnósticos confiáveis ​​é crucial, especialmente quando se trata de tomar decisões de IA transparentes e confiáveis. Estou entusiasmado com a pesquisa que meu laboratório e meus colegas do HDSI estão realizando para construir sistemas de IA nos quais as pessoas possam realmente confiar.

Alguma Última Informação sobre IA que você gostaria de Compartilhar com nossos Leitores?

Danks: É fácil ver a IA como uma força imparável avançando em nossa direção, algo que mudará drasticamente ou até mesmo interromperá nossas vidas sem que haja como pará-la. Mas acredito que essa é a perspectiva errada. A IA é criada por pessoas — é um futuro que estamos moldando ativamente. Devemos vê-la como uma oportunidade, não como uma ameaça incerta sobre a qual não temos controle.

Leia o Artigo Original Tech Xplore

Leia mais Novo Estudo Sugere que Ozempic Pode Reduzir Significativamente as Binges de Álcool