Вероятность того, что искусственный интеллект «катастрофически ошибется» и погубит всех нас, — один к четырем, считает руководитель технологической компании.

По мнению Дарио Амодея, генерального директора компании Anthropic, вероятность конца человеческой цивилизации, составляет около 25 %. И приведет нас к концу света искусственный интеллект, то бишь порождение человеческого разума. Дескать существует способ «неправильного использования» ИИ, который может вызвать конфликты, а вовсе не помощь, к которой люди уже начали привыкать.

И правда, это ведь так удобно, когда бот, поселившийся в вашем смартфоне, оплатит счета, выберет любимую мелодию, включит ее с нужной громкостью, приготовит кофе или сам составит список необходимых покупок. Доверяя ИИ, казалось бы, простые бытовые функции, мы сами учим его находить не только наши предпочтения, но и слабости. И где гарантии, что он не использует знания о своем «хозяине» против него? Причем в глобальном смысле. Вот и Амодей, выступая в подкасте The Logan Bartlett, предупреждает:

«Мне кажется, я часто говорил, что вероятность того, что в масштабах человеческой цивилизации что-то пойдет действительно катастрофически неправильно, составляет от 10 до 25 %».

Если сложить это вместе с тем, что что-то пойдет не так с самой моделью, с людьми, организациями или национальными государствами, которые неправильно используют модель или провоцируют конфликты, то произойдет что-то такое, с чем общество не сможет справиться, считает Амадей и несколько успокаивает людей:

«Это означает, что существует 75-90 % вероятность того, что эта технология будет разработана и все пойдет хорошо».

Андреа Миотти, обеспокоенная проблемой ИИ, опасается, что продукты крупных технологических компаний могут погубить всех нас. Участник кампании «Контроль над искусственным интеллектом» заявил газете The Sun:

«Те же самые компании, поддерживающие ИИ, которые считают, что вероятность того, что их продукты убьют вас всех, составляет 10-25 %, — это те же самые компании, которые на саммите по безопасности ИИ определяют правила регулирования. Мы хотим видеть эффективное регулирование. Если руководители компаний добьются своего, мы все окажемся в меньшей безопасности».

Однако похоже, что бизнес интересует не будущее человечества, а сегодняшнее наполненение собственного кармана, чему ИИ, безусловно, способствует.

Источники информации и фото: dailystar.co.uk, lib-li-vk.com