По словам ведущего специалиста по безопасности Claude Эвана Хьюбингера, нейросети развиваются настолько стремительными темпами, что с вероятностью в 10 % искусственный интеллект «может погубить всё человечество» в ближайшее десятилетие.
При этом, считает Хьюбингер, текущие модели не особо опасны. Но они развиваются в том числе за счёт обучения на собственных данных, рекурсивно совершенствуя свои возможности, и рано или поздно могут выйти из-под контроля человека.
Заявление мощное. Кто знает, есть на свете другая такая отрасль, где для привлечения инвесторов нужно регулярно предсказывать конец света? Давайте подумаем вместе в комментариях.
