LLM (Large Language Models) as surrogate for multi-voice groups: from epistemic reliability to political legitimacy (Book Chapter / 2025)

 

The urgent need to understand the inner workings of LLMs and other machine learning algorithms has given rise to the emergence of a burgeoning field of research known as a “eXplainable AI (XAI)”, sometimes also known as “Interpretable AI”. In this article we intend examine a different methodological strategy to address the alignment problem, one that does not involve the development of new architectures, explanations, or training techniques. Our intention is, firstly, to examine the attempt to tackle the alignment problem with the methods of psychology, which seeks to understand an even more complicated black box, namely: the human brain or, as the case may be, the human mind. 

If a person is asked how their brain interprets visual input, or to rate their own ability to offer accurate explanations of how ordinary objects such as bikes or zippers work, they will probably be unable to provide a cogent explanation. Over the last decades, researchers in the field of empirical psychology have advanced a variety of methodological strategies to understand the human black box without having to rely too heavily on what people say (supposing they would have anything to say) about their own mental states or brain processes. The attempt to address the alignment problem by applying the methods of psychology to LLMs has recently led one author to coin the expression machine psychology.  We are particularly interested in the attempt to use the methods commonly applied in social psychology studies as a promising strategy to address the alignment problem.

[ PDF ]

© Como citar este artigo:
Araujo, Marcelo de; Nunes, José Luiz; Almeida, Guilherme de. 2024. "LLM (Large Language Models) as surrogate for multi-voice groups: from epistemic reliability to political legitimacy". In: Oliveira, Nythamar; Tauchen, Jair. (ed.). Recasting Bioethics, Neuroethics, and AI Ethics. 1ed.Porto Alegre: Fênix, 2024, vol. 1, p. 159–181.

Are Large Language Models Moral Hypocrites? A Study Based on Moral Foundations (artigo / 2024)

 

Large language models (LLMs) have taken centre stage in debates on Artificial Intelligence. Yet there remains a gap in how to assess LLMs' conformity to important human values. In this paper, we investigate whether state-of-the-art LLMs, GPT-4 and Claude 2.1 (Gemini Pro and LLAMA 2 did not generate valid results) are moral hypocrites. We employ two research instruments based on the Moral Foundations Theory: (i) the Moral Foundations Questionnaire (MFQ), which investigates which values are considered morally relevant in abstract moral judgements; and (ii) the Moral Foundations Vignettes (MFVs), which evaluate moral cognition in concrete scenarios related to each moral foundation. 

We characterise conflicts in values between these different abstractions of moral evaluation as hypocrisy. We found that both models displayed reasonable consistency within each instrument compared to humans, but they displayed contradictory and hypocritical behaviour when we compared the abstract values present in the MFQ to the evaluation of concrete moral violations of the MFV.

[ PDF ]

© Como citar este artigo:

Nunes, J. L., Almeida, G. F. C. F., Araujo, M. de, & Barbosa, S. D. J. (2024). Are Large Language Models Moral Hypocrites? A Study Based on Moral Foundations. Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society, 7(1), 1074-1087. https://doi.org/10.1609/aies.v7i1.31704 

Crise climática já condena uma geração inteira a nascer e viver sob condições de calor sem precedentes (artigo / 2025)

 

Artigo para The Conversation Brasil. 

Trechos:

"Em um cenário otimista, se as metas do Acordo de Paris forem cumpridas, a crise climática terá sido resolvida ao final do século 21. Até lá, porém, a crise deve se agravar em meados deste século, quando muito provavelmente ocorrerá um período de “overshoot” (do inglês, ultrapassar). Durante esse período, a temperatura média do planeta deverá estar acima da meta proposta pelo Acordo." 

"Após este período de overshoot - que pode durar de uma a várias décadas -, a temperatura começará a cair até se estabilizar em 1,5°C na virada do século 21 para o século 22."

"A geração que fatalmente viverá suas vidas inteiras dentro dentro deste período de calor sem precedentes na história da humanidade já tem nome: “Geração Overshoot”.

[ artigo completo ]

© Como citar este artigo: 

Araujo, Marcelo de; Fior, Pedro. 2024. "Crise climática já condena uma geração inteira a nascer e viver sob condições de calor sem precedentes". In: The Conversation, 15 de janeiro de 2025. https://theconversation.com/crise-climatica-ja-condena-uma-geracao-inteira-a-nascer-e-viver-sob-condicoes-de-calor-sem-precedentes-247432 

Republicado por:

VEJA

Superinteressante

O Globo

Folha do Norte

Olhar Digital

Ten Years After the Paris Agreement: The Tragedy of the Overshoot Generation (artigo / 2025)

 

The Paris Agreement will be ten years old in 2025. It is a good opportunity, then, to reassess the feasibility of its long-term goals and understand what they mean for the current and for the next generations. 

In a very optimistic scenario, if the goals of the Paris Agreement are achieved, the climate crisis will have been solved by the end of the 21st century. In the meantime, though, the crisis will worsen, as temperature overshoot is very likely to occur by the middle of the century. During the overshoot period, our planet’s average temperature exceeds 1.5°C above pre-industrial levels, which is the threshold proposed by the Paris Agreement. At the end of the overshoot period, which could last from one to several decades, the temperature will begin to fall until it eventually stabilises at 1.5°C at the turn of the century. 

Conflicting interests of three different generations are at stake here, namely: (1) the interests of the current generation, (2) those of the overshoot generation, and (3) the interests of the post-overshoot generation. Given the unequal distribution of power across generations, it is likely that the current generation will tend to further their own interest to the detriment of the overshoot generation, even if, in the end, the climate policies enforced by the current generation do indeed fulfil the interests of the post-overshoot generation. The implications for international relations are momentous, as we intend to show in this article.

[ PDF ]

© Como citar este artigo:
Araujo, Marcelo de; Fior, Pedro. 2024. "Ten Years After the Paris Agreement: The Tragedy of the Overshoot Generation". In e-International Relations, 7 Janeiro 2025. https://www.e-ir.info/2025/01/07/ten-years-after-the-paris-agreement-the-tragedy-of-the-overshoot-generation/ 

Futuro e desigualdade: O que é geoengenharia do clima e como ela pode influir na chamada justiça intergeracional (artigo / 2024)

 

Artigo para The Conversation Brasil.

Trechos:

"A catástrofe climática que atingiu o Rio Grande do Sul, entre abril e junho de 2024, precipitou um intenso debate sobre as consequências das mudanças climáticas no Brasil. Muito se fala agora sobre o modo desigual como as mudanças climáticas atingem populações mais vulneráveis."

"Grupos sociais que já eram vítimas de injustiças sociais por conta de graves desigualdades econômicas se veem agora ainda mais fragilizados diante de desastres climáticos. Sem políticas climáticas específicas, problemas de injustiça social tendem a se agravar no Brasil." 

"O que fazer? Que políticas para a promoção da justiça social são necessárias, isso ninguém negaria. O que nem todo mundo percebe, porém, é que desigualdades sociais e econômicas constituem apenas um aspecto das questões de justiça que emergem em decorrência das mudanças climáticas." 

"Desigualdades de poder na relação entre gerações são igualmente importantes. No entanto, pouca atenção tem sido dada a questões de justiça intergeracional nos debates sobre mudanças climáticas no Brasil. Isso é estranho, pois a injustiça intergeracional é tão preocupante quanto a injustiça social."

[ artigo completo ]

© Como citar este artigo: 

Araujo, Marcelo de; Fior, Pedro; Menezes, Pedro. 2024. "Futuro e desigualdade: o que é geoengenharia do clima e como ela pode influir na chamada justiça intergeracional". In The Conversation Brasil, 23 de agosto de 2024. https://theconversation.com/futuro-e-desigualdade-o-que-e-geoengenharia-do-clima-e-como-ela-pode-influir-na-chamada-justica-intergeracional-237119

Republicado por:

Globo. Um Só Planeta

Bios. Ética & Ciência a Serviço da Vida, v.2, n. 11

History repeats itself. Next time as tragedy: The ethics of climate adaptation for the overshoot generation (pre-print article / 2024)

In spite of the widespread recognition that effective climate policies require both mitigation and adaptation, the history of the climate ethics debate shows that the balance between adaptation and mitigation policies has been anything but stable. Although some researchers did indeed support a well-balanced mix of mitigation and adaptation strategies in the Villach (1985) and Toronto (1988) conferences, throughout the 1980s most people favoured adaptation over mitigation. This contrasts with preference for mitigation over adaptation in the 1990s and early 2000s, almost to the point of entirely discrediting the relevance of climate adaptation policies. It was not until the early 2010s that adaptation and mitigation came to be seen as equally important to address climate change. 

In this paper, we argue that by mid-century adaptation policies are likely to be seen, again, as more urgent than mitigation. The reason for this is that most mitigation pathways to the Paris Agreement involve a temperature overshoot, which will constrain the generation living under the overshoot period – the “overshoot generation” – to prioritize adaptation policies as a matter of survival. Even on the assumption that the overshoot generation will emit less than the current and the past generations have emitted, the overshoot generation will have to deploy massively as-yet unproven carbon removal technologies in order to mitigate the unmitigated emissions of the past. We call this process “retroactive mitigation”. We conclude the paper with four policy recommendations for the benefit of the overshoot generation.

[ PDF ]

© Como citar este artigo:
Araujo, Marcelo de and Fior Mota de Andrade, Pedro, "History repeats itself. Next time as tragedy: The ethics of climate adaptation for the overshoot generation" (June 11, 2024). Available at SSRN: https://ssrn.com/abstract=4862217 or http://dx.doi.org/10.2139/ssrn.4862217.

Are Large Language Models moral hypocrites? A study based on Moral Foundations (pre-print article / 2024)

Large language models (LLMs) have taken centre stage in debates on Artificial Intelligence. Yet there remains a gap in how to assess LLMs' conformity to important human values. In this paper, we investigate whether state-of-the-art LLMs, GPT-4 and Claude 2.1 (Gemini Pro and LLAMA 2 did not generate valid results) are moral hypocrites. We employ two research instruments based on the Moral Foundations Theory: (i) the Moral Foundations Questionnaire (MFQ), which investigates which values are considered morally relevant in abstract moral judgements; and (ii) the Moral Foundations Vignettes (MFVs), which evaluate moral cognition in concrete scenarios related to each moral foundation. 

We characterise conflicts in values between these different abstractions of moral evaluation as hypocrisy. We found that both models displayed reasonable consistency within each instrument compared to humans, but they displayed contradictory and hypocritical behaviour when we compared the abstract values 
present in the MFQ to the evaluation of concrete moral violations of the MFV.

[ PDF ]

© Como citar este artigo:
Nunes, José Luiz; Guilherme Almeida; Marcelo de Araujo; Simone D. J. Barbosa. 2024. "Are large language models moral hypocrites? A study based on moral foundations". arXiv. https://doi.org/10.48550/ARXIV.2405.11100.

Exploring the psychology of LLMs’ moral and legal reasoning (article / 2024)

 

Large language models (LLMs) exhibit expert-level performance in tasks across a wide range of different domains. Ethical issues raised by LLMs and the need to align future versions makes it important to know how state of the art models reason about moral and legal issues. In this paper, we employ the methods of experimental psychology to probe into this question. We replicate eight studies from the experimental literature with instances of Google's Gemini Pro, Anthropic's Claude 2.1, OpenAI's GPT-4, and Meta's Llama 2 Chat 70b. 

We find that alignment with human responses shifts from one experiment to another, and that models differ amongst themselves as to their overall alignment, with GPT-4 taking a clear lead over all other models we tested. Nonetheless, even when LLM-generated responses are highly correlated to human responses, there are still systematic differences, with a tendency for models to exaggerate effects that are present among humans, in part by reducing variance. This recommends caution with regards to proposals of replacing human participants with current state-of-the-art LLMs in psychological research and highlights the need for further research about the distinctive aspects of machine psychology.

[ PDF ]

© Como citar este artigo:

Almeida, Guilherme F.C.F., José Luiz Nunes, Neele Engelmann, Alex Wiegmann, and Marcelo de Araujo. 2024. "Exploring the psychology of LLMs’ moral and legal reasoning". Artificial Intelligence 333 (August):104145. https://doi.org/10.1016/j.artint.2024.104145.

Epistemology goes AI: A study of GPT-3’s capacity to generate consistent and coherent ordered sets of propositions on a Single-Input-Multiple-Outputs Basis (artigo / 2024))

 

The more we rely on digital assistants, online search engines, and AI systems to revise our system of beliefs and increase our body of knowledge, the less we are able to resort to some independent criterion, unrelated to further digital tools, in order to asses the epistemic reliability of the outputs delivered by them. This raises some important questions to epistemology in general and pressing questions to applied to epistemology in particular. 

In this paper, we propose an experimental method for the assessment of GPT-3’s capacity to generate consistent and coherent sets of outputs. When several outputs to one and the same input are very repetitive they tend to be consistent with each other, that is they do not contradict each other. But consistency does not make the set of outputs as a whole more informative than the outputs considered individually. We argue that the less informative a set of outputs is, the less coherent it is. We establish a conceptual distinction between consistency and coherence in the light of what some epistemologists refer to as a coherence theories of truth and justification. 

While much attention has been given to GPT-3’s capacity to produce internally coherent individual outputs, we argue, instead, that more attention should be given to its capacity to produce consistent and coherent outputs generated on a single-input-multiple-outputs basis.

[ PDF ]

© Como citar este artigo:

de Araujo, M., de Almeida, G. & Nunes, J.L. (2024) "Epistemology goes AI: A study of GPT-3’s capacity to generate consistent and coherent ordered sets of propositions on a single-input-multiple-outputs basis". Minds & Machines 34, 2 (2024). https://doi.org/10.1007/s11023-024-09660-6 

Promoting science communication for the purpose of pandemic preparedness and response: An assessment of the relevance of pre-COVID pandemic “early warnings” (artigo / 2024)

Given the abrupt global disruption caused by SARS-CoV-2, one might think that the COVID pandemic was an unpredictable event. But in the years leading up to the emergence of the COVID pandemic, several documents had already been warning of the increasing occurrences of new disease outbreaks with pandemic potential and lack of corresponding policies to promote pandemic preparedness and response. 

In this article, we call these documents “early warnings”. We argue that a survey of early warnings can help science communicators to promote the public understanding of evidence-based pandemic preparedness and response policies at local or international level. Our proposal differs from other approaches to pandemic preparedness and response in that it highlights the relevance of documents published before the COVID outbreak. We show that the early warnings did not become outdated after the COVID outbreak, but, rather, that they are even more pressing now.

© Como citar este artigo:

Araujo, Marcelo de and Costa, Daniel de Vasconcelos. "Promoting Science Communication for the Purpose of Pandemic Preparedness and Response: An Assessment of the Relevance of Pre-COVID Pandemic early warnings" Human Affairs, vol. 34, no. 2, 2024, pp. 269-294. https://doi.org/10.1515/humaff-2023-0083

Urgentes e necessárias, políticas de adaptação climática enfrentam dilemas éticos no Brasil e no mundo (artigo / 2024)

 

Artigo para The Conversation Brasil.

Trechos:

"A solução para se conter o aquecimento global é a mesma para todos os países: reduzir as emissões de gases de efeito estufa (GEE), especialmente o dióxido de carbono (CO2). Esta é uma medida de mitigação. Mas ainda que todos os países resolvessem implementar imediatamente políticas de mitigação radicais, a crise climática não seria resolvida de um dia para o outro. Para se lidar com as mudanças climáticas são necessárias também políticas de adaptação." 

"Diferentemente das políticas para mitigação, as estratégias de adaptação devem ser específicas para cada cenário regional. Isto significa que diferentes países e regiões exigirão políticas de adaptação distintas. Por exemplo, no contexto brasileiro, a escassez de água na Região Nordeste pode contrastar diretamente com o excesso de chuvas na Serra Fluminense, resultando na necessidade de ações adaptativas específicas para cada realidade." 

"Da interação entre políticas de adaptação e políticas de mitigação surgem dilemas éticos que ainda não foram devidamente discutidos no Brasil."

[ artigo ]

© Como citar este artigo:
Araujo, Marcelo de; Fior, Pedro. 2024. "Urgentes e necessárias, políticas de adaptação climática enfrentam dilemas éticos no Brasil e no mundo". In The Conversation Brasil, 5 de fevereiro de 2024. https://theconversation.com/urgentes-e-necessarias-politicas-de-adaptacao-climatica-enfrentam-dilemas-eticos-no-brasil-e-no-mundo-222130 

Apresentação do livro "Justiça Intergeracional" de Lukas Meyer (Prefácio / 2023)

Prefácio para o livro de Lukas Meyer sobre justiça entre gerações. 

Trecho do Prefácio:

"É possível perceber, nas discussões atuais de ética e de filosofia política no Brasil, um interesse crescente – e inteiramente justificado – por temas como, por exemplo, justiça social, igualdade de gênero, igualdade racial, e justiça internacional, para mencionar apenas alguns tópicos frequentemente abordados no debate filosófico acerca de questões normativas. Estranhamente, porém, a discussão sobre questões de justiça intergeracional parece ter atraído relativamente menos atenção da comunidade filosófica brasileira. O livro de Lukas H. Meyer, Justiça Intergeracional: Por que devemos nos preocupar com as gerações futuras e gerações passadas?, vem agora contribuir para o preenchimento desta lacuna."

[ PDF ]

© Como citar este programa:
Araujo, Marcelo de. 2023. "Apresentação". In Meyer, Lukas. Justiça Intergeracional: Justiça Intergeracional: Por que devemos nos preocupar com as gerações futuras e as gerações passadas? Trad. J. Michel-Muniz. Revisão Marcelo de Araujo. Florianópolis: NéfipOnline Publicações/UFSC. ISBN 978-65-994761-7-4, pp. 8–15.

Pesquisa analisa consequências morais da pandemia de COVID-19 (entrevista / 2023)

A pandemia de COVID continuará no foco da atenção de muita pesquisa pelos próximos anos. Nessa entrevista para o programa de TV Boletim Ciência, do Ministério da Saúde, Pedro Fior e eu falamos sobre como as mudanças climáticas podem contribuir para o surgimento de novas pandemias. A entrevista foi conduzida por Neide Diniz, a quem agradecemos pelo convite. 

Outro ponto da conversa com Neide Diniz foi mostrar que, já antes da pandemia de COVID, havia um amplo conhecimento científico de que uma pandemia era não apenas altamente provável, mas praticamente inevitável. Esse conhecimento está bem documentado na Survey of Early Warnings, que Daniel de Vasconcelos e eu publicamos em 2023. 

[ vídeo ]

© Como citar este programa:
Araujo, Marcelo de; Fior, Pedro. "Pesquisa da UERJ analisa consequências morais da pandemia de COVID-19". Entrevista com Neide Diniz para o Boletim Ciência, Programa de TV do Canal Saúde, Ministério da Saúde, Fundação Oswaldo Cruz, 13 de dezembro de 2023. YouTube https://www.youtube.com/watch?v=jmgSp17n39w&ab_channel=CanalSa%C3%BAdeOficial 

Ethical guidelines for the allocation of scarce intensive care units during the COVID‐19 pandemic: Discussing a Brazilian proposal (article / 2023)

Quais devem ser as diretrizes para a alocação eticamente aceitável de recursos de UTI (Unidade de Terapia Intensiva) durante uma pandemia? Neste artigo, defendemos que, no caso de uma grave crise de saúde pública, profissionais de saúde devem avaliar as perspectivas de recuperação do ou da paciente e ter como meta salvar o maior número de vidas. 

A equipe de triagem, composta por profissionais especializados, deve classificar os pacientes em três grupos prioritários, de acordo com o grau de probabilidade de recuperação, medido pelo SOFA (Sequential Organ Failure Assessment). 

Os profissionais de saúde da linha da frente, no entanto, serão classificados como de maior prioridade, independentemente da sua pontuação SOFA. Para realizar desempates dentro de um mesmo grupo prioritário, são necessários outros critérios, nomeadamente: o princípio dos ciclos de vida e (caso empates persistam) um sorteio. 

[ PDF ]

Araujo, Marcelo de; Azevedo, Marco Antonio; Bonella, Alcino Eduardo; Dall'Agnol, Darlei (2023) "Ethical guidelines for the allocation of scarce intensive care units during the COVID‐19 pandemic: Discussing a Brazilian proposal", Journal of Evaluation in Clinical Practice. DOI: https://doi.org/10.1111/jep.13924.

Critérios e dilemas para uma agenda de adaptação justa às mudanças climáticas e pandemias no Brasil (artigo / 2023)

 

Trecho:

"A implementação de uma agenda deadaptação da saúde que atenda às necessidades da população e responda aos desafios apresentados por cenários de pandemias e mudanças climáticas depende de uma execução orçamentária adequada. Tendo em vista que políticas adaptativas envolvem a alocação de recursos escassos, uma agenda nacional de adaptação da saúde deve satisfazer certos critérios alocativos para assegurar que esta implementação seja conduzida de maneira justa. Três critérios de justiça são comumente elencados para nortear esta empreitada: i) vulnerabilidade, ii)eficiência e iii) desenvolvimento humano sustentável."

[...]

"Recomenda-se, portanto, que especialistas, cientistas, administradores públicos e os mais diversos membros da sociedade civil deem especial atenção a esses e outros dilemas que podem se apresentar para que possam tomar as melhores decisões possíveis ao longo deste desafiador século XXI."

[ PDF ]

© Como citar este artigo: 

Araujo, Marcelo de; Fior, Pedro. "Critérios e dilemas para uma agenda de adaptação justa às mudanças climáticas e pandemias no Brasil". In Bios: Ciência & Ética a Serviço da Vida,  Ano 1, N. 6. Florianópolis: UFSC, 4 de setembro de 2023, 5pp.