7月18日，联合国安理会举行首次人工智能会议，世界各国政府正在考虑如何减轻新兴人工智能技术的危险，后者或将重塑全球经济并改变国际安全格局。
英国本月担任联合国安理会轮值主席国，英国外交大臣詹姆斯·克莱维尔（James Cleverly）主持该次讨论，他称人工智能“将从根本上改变人类生活的方方面面”。
会上，来自15个成员国的代表听取了人工智能如何“给人类带来灾难性风险”，同时带来“历史性机遇”。其中，中国表示该技术不应成为“脱缰之马”，俄罗斯认为需要一个专业的、科学的、基于专业知识的讨论，美国警告不要将其用于审查或镇压人民。
詹姆斯·克莱维表示，人工智能为解决全球挑战提供了希望，如与粮食安全、教育和医药有关的挑战。自动化系统已经在帮助人们更有效地种植粮食、预测风暴路径和识别患者疾病，因此，如果使用得当，人工智能可以加速实现可持续发展目标的进程。但人工智能也有可能加剧威胁和加剧冲突，包括传播错误和虚假信息、放大偏见和不平等、加强恶意网络行动以及加剧侵犯人权行为。
克莱维尔表示欢迎开发和应用人工智能工具的努力，以改善提供人道主义援助的共同努力，为气候变化或冲突等各种问题提供早期预警，并进一步实现其他共同目标。
另外，联合国秘书长安东尼奥·古特雷斯、人工智能创业公司Anthropic联合创始人杰克·克拉克，以及中英人工智能伦理与治理研究中心联合主任曾毅教授也分别向这个由15个成员组成的委员会作了简要介绍。
古特雷斯支持部分国家建立新的联合国机构，以国际原子能机构、国际民用航空组织或政府间气候变化专门委员会为榜样，“人工智能的军事和非军事应用都可能对全球和平与安全产生非常严重的后果。”
曾毅教授呼吁联合国作为一个机构认真对待AI安全这一问题，联合国必须发挥核心作用，建立人工智能发展和治理框架，以确保全球和平与安全“人工智能可能会导致人类灭绝，因为我们还没有找到一种方法来保护自己免受人工智能对人类弱点的利用”。
克拉克称：更具有挑战性的是混乱或不可预测的行为问题。人工智能系统一旦部署，可能会出现在开发过程中没有发现的微妙问题。“我想提醒听众，不要把人工智能视为一种特定的技术，而是一种可以以计算机的速度进行买卖的人类劳动力，随着时间的推移，它会变得越来越便宜、越来越强大。”克拉克表示。
中国驻联合国大使张军将人工智能比作“双刃剑”，称北京支持联合国在制定人工智能指导原则方面发挥核心协调作用。张军表示，人工智能是好是坏取决于人类如何利用它，调节它，以及如何平衡科学发展与安全。应该关注人和人工智能，规范发展，“防止这项技术成为脱缰之马”。
俄罗斯驻联合国副大使德米特里·波利安斯基认为“我们需要的是一个专业的、科学的、基于专业知识的讨论，这可能需要几年的时间，而这种讨论已经在专门的平台上进行了。”他同时质疑负责维护国际和平与安全的安理会是否应该讨论人工智能。
美国驻联合国副大使杰弗里·德劳伦蒂斯（Jeffrey DeLaurentis）表示，各国也有必要在人工智能和其他新兴技术方面共同努力，以应对可能破坏和平与安全的人权风险。“任何成员国都不应该利用人工智能来审查、约束、压制或剥夺人民的权力。”
伴随ChatGPT的爆火，AI安全也逐渐引发关注，此前亚信安全首席研发官吴湘宁表示，“去年年底到今年年初，生成式AI带来了灯塔式的指引，从国家到所有的企业都在拥抱这次变革。”腾讯安全内容风控产品经理李镐泽对第一财经表示，AIGC的内容安全是一个全链路的问题，从模型训练、标注、应用到应用之后的舆情监控各个环节都可能引入内容安全的风险，因此在应用AIGC大模型时，也应从全链路进行内容风控。
