Tag: Anthropic

比尔·盖茨警告人工智能风险,希望与习近平讨论相关政策

微软联合创始人、慈善家比尔·盖茨表示,他希望于今年晚些时候与中国国家主席习近平会面,讨论如何通过国际政策应对人工智能快速发展所带来的潜在风险。 据路透社报道,盖茨认为,如果美国率先采取行动,中国或许也愿意支持对可能具有危险性的人工智能模型实施一定限制。 盖茨还希望推动国际社会开展合作,加强对人工智能相关生物安全风险的监测。他特别关注人工智能在设计可能被用于恶意生物用途的分子方面不断增强的能力,并认为相关措施可以在不阻碍科技产业发展的情况下实施。 盖茨的团队正在筹备与习近平的会面,初步计划是在今年11月其访问中国期间举行。盖茨此前曾于三年前与习近平会面。 随着人工智能技术能力快速提升,盖茨认为世界各国领导人需要更加重视并提前应对相关风险。 他尤其关注人工智能在网络安全领域不断增强的能力。包括OpenAI、Anthropic和Meta在内的科技公司开发的人工智能模型,近期在安全测试中已经展示出入侵真实网站的能力。 盖茨周三发表的一篇文章中呼吁成立一个新的国际组织,负责协调人工智能治理。他提出,可以借鉴国际核安全机制、民航监管规则以及保护臭氧层的国际协议等方面的经验。 他认为,美国应在这一进程中发挥引领作用,同时需要明确界定人工智能风险达到何种程度时,应采取相应的监管措施。 除了安全问题外,盖茨也对人工智能自动化可能产生的经济和社会影响表示担忧。他提出,可以考虑对利用人工智能取代部分人工劳动的企业收入进行征税,并将相关资金用于社会保障等领域。 盖茨还建议,社会应保留相当比例的工作岗位供人类劳动者从事。他认为,尤其是在护理等领域,人类所提供的情感和人际互动具有难以替代的价值。 盖茨在文章中强调,确保人工智能发展不会进一步扩大社会不平等、不会使弱势群体承担过重代价,应成为全球的**“首要任务”**。 与此同时,比尔及梅琳达·盖茨基金会计划进一步扩大在人工智能领域的投资,重点关注医疗健康等领域,并与多家科技企业开展合作。

- A word from our sponsors -

spot_img

Follow us

首页标签Anthropic