Ganhadores do Nobel temem ameaça de IA sem controlePara cientistas, a tecnologia pode levar a limites indesejáveis, colocando em questão a capacidade humana de controle.
A dupla vencedora do Nobel de Física de 2024 tem algo em comum: ambos os cientistas temem os perigos do desenvolvimento sem controle da Inteligência Artificial (IA). O estadunidense John Hopfield é pioneiro no campo da IA e recentemente expressou preocupação sobre a falta de conhecimento sobre a operação de sistemas modernos de IA. Se comparou os avanços em IA a outras tecnologias poderosas que ele testemunhou em sua vida, como engenharia biológica e física nuclear. Em ambas, ele observou, foi provado que elas podem ter tanto efeitos benéficos quanto devastadores.
Como físico, estou muito preocupado com algo que não é controlado, algo que não entendo o suficiente.