As visual misinformation becomes increasingly prevalent, platform algorithms act as intermediaries that curate information for users' verification practices. Yet, it remains unclear how algorithmic gatekeeping tools, such as reverse image search (RIS), shape users' information exposure during fact-checking. This study systematically audits Google RIS by reversely searching newly identified misleading images over a 15-day window and analyzing 34,486 collected top-ranked search results. We find that Google RIS returns a substantial volume of irrelevant information and repeated misinformation, whereas debunking content constitutes less than 30% of search results. Debunking content faces visibility challenges in rankings amid repeated misinformation and irrelevant information. Our findings also indicate an inverted U-shaped curve of RIS results page quality over time, likely due to search engine "data voids" when visual falsehoods first appear. These findings contribute to scholarship of visual misinformation verification, and extend algorithmic gatekeeping research to the visual domain.


翻译:随着视觉虚假信息日益普遍,平台算法作为中介,为用户验证实践筛选信息。然而,算法把关工具(如反向图像搜索)如何在事实核查过程中塑造用户信息接触,仍不明确。本研究通过为期15天窗口期内对新发现的误导性图像进行反向搜索,并分析收集到的34,486条顶级搜索结果,系统审计了谷歌反向图像搜索。研究发现,谷歌反向图像搜索返回大量无关信息和重复虚假信息,而辟谣内容仅占搜索结果不足30%。在重复虚假信息和无关信息的包围中,辟谣内容面临排名可见性挑战。研究结果还表明,反向图像搜索结果页质量随时间呈倒U型曲线,这可能源于视觉虚假信息首次出现时搜索引擎的"数据空洞"。这些发现为视觉虚假信息验证研究作出贡献,并将算法把关研究扩展至视觉领域。

0
下载
关闭预览

相关内容

互联网
【CIKM2024】使用大型视觉语言模型的多模态虚假信息检测
图异常检测在金融反欺诈中的应用研究进展
专知会员服务
50+阅读 · 2022年11月20日
视觉深度伪造检测技术综述
专知会员服务
37+阅读 · 2022年1月28日
ISWC2020最佳论文《可解释假信息检测的链接可信度评价》
【智能金融】机器学习在反欺诈中应用
产业智能官
35+阅读 · 2019年3月15日
国家自然科学基金
1+阅读 · 2016年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
7+阅读 · 2014年12月31日
Arxiv
0+阅读 · 2月11日
VIP会员
最新内容
最新“指挥控制”领域出版物合集(16份)
专知会员服务
7+阅读 · 4月12日
面向军事作战需求开发的人工智能(RAIMOND)
专知会员服务
15+阅读 · 4月12日
远程空中优势:新一代超视距导弹的兴起
专知会员服务
2+阅读 · 4月12日
大语言模型溯因推理的统一分类学与综述
专知会员服务
3+阅读 · 4月12日
相关VIP内容
【CIKM2024】使用大型视觉语言模型的多模态虚假信息检测
图异常检测在金融反欺诈中的应用研究进展
专知会员服务
50+阅读 · 2022年11月20日
视觉深度伪造检测技术综述
专知会员服务
37+阅读 · 2022年1月28日
ISWC2020最佳论文《可解释假信息检测的链接可信度评价》
相关资讯
【智能金融】机器学习在反欺诈中应用
产业智能官
35+阅读 · 2019年3月15日
相关基金
国家自然科学基金
1+阅读 · 2016年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
7+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员