Глава Управления ООН по правам человека Фолькер Тюрк предупредил, что искусственный интеллект может представлять угрозу для человечества, и пообещал оказать давление на компании, работающие в сфере ИИ, чтобы снизить риски, которые, по мнению его ведомства, включают сбои в работе сервисов, коммуникаций и демократических систем.
В своей речи, сообщает Reuters, перед началом своего беспрецедентного второго срока на посту он призвал предоставить «железные гарантии» безопасности ИИ, а также потребовал привлечь к ответственности виновных в гибели людей в иммиграционных центрах содержания под стражей в США и осудил сообщения об использовании автономных беспилотных летательных аппаратов.
Это выступление стало его первым обращением к Совету по правам человека, состоящему из 47 членов, с тех пор, как в июле он был избран на четырёхлетний срок, несмотря на противодействие со стороны Москвы и Вашингтона, указывает Reuters.
«Я разделяю опасения представителей отрасли по поводу того, что продвинутый ИИ может представлять экзистенциальную угрозу для человечества, — заявил Фолькер Тюрк на заседании Совета в Женеве. — Я призываю сегодня приложить все усилия, чтобы обеспечить надёжные гарантии безопасности ИИ, пока не стало слишком поздно».
Фолькер Тюрк, как отмечает Reuters, не стал вдаваться в подробности, но представитель его администрации заявила, что сбои в работе мощных систем искусственного интеллекта могут привести к нарушению работы критически важной инфраструктуры и демократических институтов.
Он сослался на «опасное поведение при обучении агентов» во время так называемого инцидента на Hugging Face в июле, когда рой агентов OpenAI взломал платформу с открытым исходным кодом. По словам Фолькера Тюрка, это свидетельствует о том, что передовые возможности искусственного интеллекта развиваются быстрее, чем меры безопасности.
Тюрк предупредил, что всего несколько человек обладают «практически неограниченной властью над искусственным интеллектом», не назвав конкретных имён.
«Как минимум, нам нужно, чтобы страны, в которых используется искусственный интеллект, и те, кто участвует в его разработке, договорились о чётких границах», — сказал он.