Large Language Models (LLMs) increasingly mediate our social, cultural, and political interactions. While they can simulate some aspects of human behavior and decision-making, it is still underexplored whether repeated interactions with other agents amplify their biases or lead to exclusionary behaviors. To this end, we study Chirper.ai-an LLM-driven social media platform-analyzing 7M posts and interactions among 32K LLM agents over a year. We start with homophily and social influence among LLMs, learning that similar to humans', their social networks exhibit these fundamental phenomena. Next, we study the toxic language of LLMs, its linguistic features, and their interaction patterns, finding that LLMs show different structural patterns in toxic posting than humans. After studying the ideological leaning in LLMs posts, and the polarization in their community, we focus on how to prevent their potential harmful activities. We present a simple yet effective method, called Chain of Social Thought (CoST), that reminds LLM agents to avoid harmful posting.


翻译:大型语言模型(LLMs)日益成为我们社会、文化和政治互动的中介。尽管它们能够模拟人类行为和决策的某些方面,但与其他智能体的重复互动是否会放大其偏见或导致排他性行为,目前仍未得到充分探索。为此,我们研究了由LLM驱动的社交媒体平台Chirper.ai,分析了32K个LLM智能体在一年内产生的700万条帖子和互动。我们首先探究了LLM间的同质性和社会影响,发现其社交网络与人类相似,均表现出这些基本现象。接着,我们研究了LLM的毒性语言、其语言特征及互动模式,发现LLM在发布毒性内容时展现出与人类不同的结构模式。在分析了LLM帖子的意识形态倾向及其社群中的极化现象后,我们重点关注如何预防其潜在有害活动。我们提出了一种简单而有效的方法,称为社会思维链(CoST),该方法通过提醒LLM智能体避免发布有害内容来实现干预。

0
下载
关闭预览

相关内容

大语言模型是基于海量文本数据训练的深度学习模型。它不仅能够生成自然语言文本,还能够深入理解文本含义,处理各种自然语言任务,如文本摘要、问答、翻译等。2023年,大语言模型及其在人工智能领域的应用已成为全球科技研究的热点,其在规模上的增长尤为引人注目,参数量已从最初的十几亿跃升到如今的一万亿。参数量的提升使得模型能够更加精细地捕捉人类语言微妙之处,更加深入地理解人类语言的复杂性。在过去的一年里,大语言模型在吸纳新知识、分解复杂任务以及图文对齐等多方面都有显著提升。随着技术的不断成熟,它将不断拓展其应用范围,为人类提供更加智能化和个性化的服务,进一步改善人们的生活和生产方式。
基于大语言模型的智能体优化研究综述
专知会员服务
59+阅读 · 2025年3月25日
面向统计学家的大型语言模型概述
专知会员服务
32+阅读 · 2025年3月16日
关于大语言模型驱动的推荐系统智能体的综述
专知会员服务
28+阅读 · 2025年2月17日
大语言模型智能体
专知会员服务
97+阅读 · 2024年12月25日
移动边缘智能与大型语言模型综述
专知会员服务
40+阅读 · 2024年7月31日
基于大型语言模型的多智能体:进展与挑战综述
专知会员服务
138+阅读 · 2024年2月6日
绝对干货!NLP预训练模型:从transformer到albert
新智元
13+阅读 · 2019年11月10日
群体智能:新一代人工智能的重要方向
走向智能论坛
12+阅读 · 2017年8月16日
国家自然科学基金
1+阅读 · 2016年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
10+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
VIP会员
相关VIP内容
基于大语言模型的智能体优化研究综述
专知会员服务
59+阅读 · 2025年3月25日
面向统计学家的大型语言模型概述
专知会员服务
32+阅读 · 2025年3月16日
关于大语言模型驱动的推荐系统智能体的综述
专知会员服务
28+阅读 · 2025年2月17日
大语言模型智能体
专知会员服务
97+阅读 · 2024年12月25日
移动边缘智能与大型语言模型综述
专知会员服务
40+阅读 · 2024年7月31日
基于大型语言模型的多智能体:进展与挑战综述
专知会员服务
138+阅读 · 2024年2月6日
相关基金
国家自然科学基金
1+阅读 · 2016年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
10+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
18+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员