Стало известно о способности чат-ботов создавать биооружие

Чат-боты с искусственным интеллектом (ИИ) могут помочь пользователям создать биологическое оружие, пишет Bloomberg.

Агентство отмечает в материале, что соединение синтетической биологии и искусственного интеллекта может стать кошмаром для правительств. Поскольку пользователи смогут использовать его для «создания отвратительных вещей». Биолог и доцент Массачусетского технологического института Кевин Эсвелт, говоря об этом, имеет в виду вирусы и токсины, которых в данное время не существует.

Весной 2023 года биохимик и экс-инспектор ООН Рокко Касагранде предупредил чиновников о возможности создания с помощью чат-ботов биологического оружия. По его данным, нейросети способны помочь террористам идентифицировать биологические агенты.

Был проведен эксперимент в области микробиологии и вирусологии для тестирования возможностей ИИ. На протяжении 150 часов ученые, притворившись биотеррористами, забрасывали нейросеть вопросами. ИИ, в частности, предложил способы использования патогенов в ракетах, чтобы нанести максимальный ущерб и даже подсказал, в какую погоду их лучше использовать.

После тестирования Касагранде обратился со сделанными выводами в Белый дом. По словам источников Bloomberg, президент США Джо Байден, вице-президент Камала Харрис и советник по нацбезопасности Джейк Салливан «продемонстрировали личный интерес». Так, вице-президент тогда подчеркнула, что биооружие, созданное ИИ, способно поставить под угрозу «само существование человечества».