联合国人权事务高级专员图尔克7日警告，人工智能（AI）可能对人类构成“生存威胁”，当前人类正面临自身权利遭到“陌生、甚至空前”威胁。
图尔克要求立即采取行动减少这类风险。
他对联合国人权理事会表示：“我们一再被告知，AI的运算能力不可想像，但对于这项科技，却只有少数人握有几乎无限的权力。”
他表示，除了有必要考量AI对就业、民主基本原则及环境带来的人权影响，更值得注意的是，AI若会“逃离测试环境，或勒索开发人员不让自己被关闭，这样的AI就过于强大”。
图尔克似乎指向7月美国聊天机器人ChatGPT开发商OpenAI遭披露，其AI代理曾逃离本应受控环境、闯入程序设计师分享AI软体热门平台Hugging Face的伺服器。
有关事件震撼科技界，也引发加强AI监管的呼声再起。包括Anthropic、Meta和其他公司都曾通报在测试其AI代理时发生类似状况。
先进AI可能对人类带来生存威胁。
图尔克说：“我和业内人士一样，担忧先进AI可能对人类带来生存威胁。我今天在此呼吁，为了AI的安全与保障，应竭尽全力设下坚不可摧的确保措施，以免为时已晚。”
他表示，将在未来几天致函AI公司，敦促他们在其掌控范围内采取步骤，来立即降低风险。
图尔克也指出，有必要至少让设有AI及拥有AI供应链企业的国家，团结支持各方同意的红线。
