A IA poderia substituir os políticos? Um filósofo mapeia três futuros possíveis
Dos negócios e administração pública à vida cotidiana, a inteligência artificial está remodelando o mundo – e a política pode ser a próxima.
Embora a ideia de políticos de IA possa deixar algumas pessoas desconfortáveis, os resultados da pesquisa contam uma história diferente. Uma pesquisa conduzida pela minha universidade em 2021, durante o surto inicial de avanços da IA, encontrou amplo apoio público para integrar a IA à política em muitos países e regiões.
A maioria dos europeus disse que gostaria de ver pelo menos alguns de seus políticos substituídos por IA. Os entrevistados chineses foram ainda mais otimistas sobre agentes de IA fazendo políticas públicas, enquanto os americanos normalmente amigáveis à inovação foram mais circunspectos.
Como filósofo que pesquisa as questões morais e políticas levantadas pela IA, vejo três caminhos principais para integrar a IA à política, cada um com sua própria mistura de promessas e armadilhas.
Embora algumas dessas propostas sejam mais absurdas do que outras, ponderá-las deixa uma coisa certa: o envolvimento da IA na política nos forçará a considerar o valor da participação humana na política e a natureza da própria democracia.
Chatbots concorrendo a cargos públicos?
Antes da chegada explosiva do ChatGPT em 2022, esforços para substituir políticos por chatbots já estavam bem encaminhados em vários países. Já em 2017, um chatbot chamado Alisa desafiou Vladimir Putin para a presidência russa, enquanto um chatbot chamado Sam concorreu a um cargo na Nova Zelândia. Dinamarca e Japão também experimentaram iniciativas políticas lideradas por chatbots.
Esses esforços, embora experimentais, refletem uma curiosidade de longa data sobre o papel da IA na governança em diversos contextos culturais.
O apelo de substituir políticos de carne e osso por chatbots é, em alguns níveis, bem claro. Chatbots não têm muitos dos problemas e limitações tipicamente associados à política humana. Eles não são facilmente tentados por desejos de dinheiro, poder ou glória. Eles não precisam de descanso, podem se envolver virtualmente com todos ao mesmo tempo e oferecem conhecimento enciclopédico junto com habilidades analíticas sobre-humanas.
No entanto, os políticos chatbot também herdam as falhas dos sistemas de IA atuais. Esses chatbots, alimentados por grandes modelos de linguagem, são frequentemente caixas-pretas , limitando nossa percepção sobre seu raciocínio. Eles frequentemente geram respostas imprecisas ou fabricadas, conhecidas como alucinações . Eles enfrentam riscos de segurança cibernética, exigem vastos recursos computacionais e precisam de acesso constante à rede. Eles também são moldados por vieses derivados de dados de treinamento, desigualdades sociais e suposições dos programadores.
Além disso, os políticos chatbots seriam inadequados para o que esperamos de autoridades eleitas. Nossas instituições foram projetadas para políticos humanos, com corpos humanos e agência moral. Esperamos que nossos políticos façam mais do que responder a solicitações – também esperamos que eles supervisionem a equipe, negociem com colegas, mostrem preocupação genuína por seus eleitores e assumam a responsabilidade por suas escolhas e ações.
Sem grandes melhorias na tecnologia ou uma reformulação mais radical da política em si, os políticos que usam chatbots continuam sendo uma perspectiva incerta.
Democracia direta alimentada por IA
Outra abordagem busca acabar completamente com os políticos, pelo menos como os conhecemos. O físico César Hidalgo acredita que os políticos são intermediários problemáticos que a IA finalmente nos permite cortar. Em vez de eleger políticos, Hidalgo quer que cada cidadão seja capaz de programar um agente de IA com suas próprias preferências políticas. Esses agentes podem então negociar entre si automaticamente para encontrar um ponto em comum, resolver desacordos e escrever legislação.
Hidalgo espera que esta proposta possa desencadear a democracia direta, dando aos cidadãos uma contribuição mais direta à política, ao mesmo tempo em que supera as barreiras tradicionais de compromisso de tempo e expertise legislativa. A proposta parece especialmente atraente à luz da insatisfação generalizada com as instituições representativas convencionais.
No entanto, eliminar a representação pode ser mais difícil do que parece. Na “democracia avatar” de Hidalgo, os fazedores de reis de fato seriam os especialistas que projetam os algoritmos. Como a única maneira de autorizar legitimamente seu poder provavelmente seria por meio do voto, poderíamos simplesmente substituir uma forma de representação por outra.
O espectro da algocracia
Uma ideia ainda mais radical envolve eliminar completamente os humanos da política. A lógica é simples o suficiente: se a tecnologia de IA avança a ponto de tomar decisões confiáveis melhores do que os humanos, qual seria o sentido da contribuição humana?
Uma algocracia é um regime político administrado por algoritmos. Embora poucos tenham defendido abertamente uma transferência total do poder político para máquinas (e a tecnologia para fazer isso ainda está longe), o espectro da algocracia nos força a pensar criticamente sobre por que a participação humana na política importa. Quais valores — como autonomia, responsabilidade ou deliberação — devemos preservar em uma era de automação, e como?
O caminho a seguir
As possibilidades dramáticas de integrar IA na política fazem deste um momento crítico para esclarecer nossos valores políticos. Em vez de nos apressarmos para substituir políticos humanos por IA, podemos nos concentrar hoje em ferramentas que melhorem o julgamento político humano e fechem déficits democráticos. Ferramentas como a Máquina Habermas , um mediador de debates de IA, ajudaram com sucesso grupos de teste a chegarem a um consenso ao votar em tópicos divisivos e polarizadores. Mais inovações como essa são necessárias.
Do meu ponto de vista, o futuro da IA na política não está na substituição total de tomadores de decisão humanos, mas na integração ponderada que amplifica as capacidades humanas e fortalece as instituições democráticas. Se esse é o futuro que queremos, precisamos ser intencionais em construí-lo.
● Nota: O texto é uma transcrição e livre tradução da entrevista consedida por Ted Lechterman ao site The Conversarion e disponível em:
● Sobre o entrevistado:
O Dr. Theodore “Ted” Lechterman ocupa a Cátedra UNESCO em Ética e Governança de IA na IE University, onde é Professor Assistente de Filosofia. A pesquisa de Lechterman abrange filosofia política e ética aplicada, com interesses particulares na relação entre inteligência artificial e ideais democráticos, as responsabilidades das empresas de tecnologia e a ética dos esforços privados para resolver problemas públicos. Seu trabalho aparece em veículos como o Oxford Handbook of AI Governance, Stanford Encyclopedia of Philosophy, Journal of Business Ethics, Organization Studies e History of Political Thought. Seu primeiro livro, The Tyranny of Generosity: Why Philanthropy Corrupts Our Politics and How We Can Fix It (Oxford University Press, 2022), recebeu uma menção honrosa para o Prêmio de Teoria Política ECPR. Um segundo livro, provisoriamente intitulado Recoding Democracy: AI and the Fight for Democracy's Future, está sob contrato com a Polity Press. Seu ensino abrange amplamente disciplinas e níveis e foi premiado por sua pedagogia inovadora. Ele é membro da UNESCO AI Ethics Experts Without Borders, um oficial do ECPR Political Theory Standing Group e um diretor administrativo da rede de consultoria Compass Ethics. Ele frequentemente contribui para debates públicos e aconselha organizações sobre como navegar em fronteiras éticas em negócios, tecnologia e governança. Ele é formado por Harvard (AB) e Princeton (MA, Ph.D.) e concluiu bolsas de pós-doutorado em Stanford, Goethe, Hertie e Oxford, onde foi bolsista inaugural no Institute for Ethics in AI.
● Imagem: Stokkete/Shutterstock
Comentários
Postar um comentário
Agradecemos o seu comentário. Isto nos ajuda no desenvolvimento deste blog.