Um dos temas mais palpitantes quando se fala sobre o avanço da tecnologia é a relação entre ética e inteligência artificial. A gente já viu muito filme em que os seres humanos perdem o controle sobre robôs e computadores e isso leva a grandes problemas. HAL (2001: Uma Odisseia no Espaço) e Skynet (O Exterminador do Futuro) são dois clássicos exemplos.
Como grande defensor de inovação, sou o primeiro a compreender que a ética e inteligência artificial devem caminhar juntas. Acredito, sim, que a tecnologia tem um papel importante na sociedade e pode nos ajudar de diferentes maneiras, mas ajustes das questões éticas são necessários para impedir a temida “rebelião das máquinas”.
Isto posto, fico contente em ver que os grupos envolvidos com inteligência artificial se mostram dispostos a abordar a questão ética.
Avanços no debate ético sobre inteligência artificial
Um paper recente da revista científica Royal Society Open Science reflete sobre as escolhas controversas que máquinas podem fazer em nome da maximização do lucro. Imagine, por exemplo, se a inteligência artificial determinasse o preço de um medicamento com alta procura apenas com a ótica do lucro. Muita gente não teria acesso a ele e continuaria doente, certo?
Esse temor é totalmente válido. A boa notícia é que o paper demonstra condições claras de detectar de forma antecipada quando essas escolhas antiéticas estiverem próximas de acontecer. Se existir esse olhar preventivo, é possível redesenhar a inteligência artificial de forma focada para direcionar melhor as suas decisões.
A busca por otimização é um princípio da inteligência artificial, como aponta o paper da Royal Society Open Science. Não é errado seguir esse princípio, mas a recomendação é mapear os resultados mais otimizados para avaliar quanto eles tiveram que transgredir do ponto de vista ético. De certa forma, é como um segundo trabalho de otimização, pensado exclusivamente na ótica de como as máquinas fazem escolhas e como elas podem ser eticamente mais responsáveis.
Por fim, o paper defende o uso ostensivo de matemática estatística para que a gente tenha previsões sobre o risco de cada tipo de inteligência artificial fazer escolhas antiéticas em diferentes situações.
O que vem pela frente?
A conclusão – com a qual concordo totalmente – é que a pauta da ética das máquinas nunca esteve tão presente e que deve ser objeto de debate da comunidade científica e de todos que atuam com inteligência artificial.
Os robôs têm todas as condições de nos ajudar de maneiras que nem imaginamos, mas é preciso ter controle para que eles não tomem decisões que prejudiquem as pessoas.
Sou fascinado por tecnologia e entendo a relação entre ética e inteligência artificial como uma questão fundamental para os próximos anos. No programa online ELS – Empreender com Liberdade e Segurança, coloco a tecnologia como um dos pilares das aulas, pois entendo que todas as empresas devem apostar cada vez mais na inovação. Quer conhecer mais sobre o ELS? Então é só clicar aqui!