乔治城大学研究称,仅有 2% 的人工智能研究关注安全问题
2024-04-07
乔治城大学新兴技术观察站(Emerging Technology Observatory)的一项新研究表明,尽管众声喧哗,但人工智能安全研究只占行业研究重点的极少数。
研究人员分析了超过2.6亿篇学术论文,发现在2017年至2022年期间发表的人工智能相关论文中,仅有2%直接涉及人工智能安全、伦理、稳健性或治理相关主题。
虽然在此期间,人工智能安全方面的论文数量增长了315%,从每年约1800篇增长到7000多篇,令人印象深刻,但它仍然是一个边缘问题。
以下是主要发现:
2017-2022 年间,只有 2% 的人工智能研究关注人工智能安全问题
在此期间,人工智能安全研究增长了 315%,但与整体人工智能研究相比相形见绌
美国在人工智能安全研究方面处于领先地位,而中国则落在后面
主要挑战包括稳健性、公平性、透明度和保持人为控制