Искусственный интеллект (ИИ) стал предметом горячих дискуссий, и многие эксперты начали сравнивать его потенциальные угрозы с ядерным оружием.

В 1945-ом году, перед тем как ученые нажали на кнопку, запустив атомную бомбу, они провели расчеты, которые показали, что вероятность того, что атомная бомба подожжет атмосферу и уничтожит все живое на Земле, составляла менее 1 к 3 миллионам. 

Однако сегодня, по словам физика и исследователя безопасности ИИ Макса Тегмарка, риск, связанный с возможным выходом сверхразума из-под контроля, уже составляет около 90%. Эта угроза не является абстрактной; модели ИИ развиваются с такой скоростью, что нормы и правила, которые могли бы их регулировать, попросту не успевают за ними.

В ответ на эту ситуацию Тегмарк предлагает ввести так называемую «постоянную Комптона» — числовой показатель, обозначающий вероятность утраты контроля над ИИ. Эта инициатива призвана вернуть инженерный подход в сферу, которая в настоящее время порой основана на случайных решениях и PR-стратегиях, но не на достоверных оценках.

Тегмарк выдвигает простое, но важное требование: если вы разрабатываете систему, способную потенциально перехватить контроль над инфраструктурой, обществом и процессами принятия решений, вы обязаны публично оценивать ее риски. Это должны быть не просто обещания, а реальные цифры, подкрепленные расчетами и исследованиями.

Подобный подход, основанный на прозрачности и системных оценках рисков, когда-то помог человечеству избежать случайного самоуничтожения в эпоху ядерной энергии. Теперь, принимая во внимание стремительное развитие технологий ИИ, крайне важно, чтобы мы переняли этот урок и обеспечили безопасное будущее для всех.

С учетом всех этих факторов, нельзя игнорировать необходимость создания комплексных моделей и норм, которые помогут управлять рисками, связанными с ИИ. В противном случае мы рискуем столкнуться с последствиями, которые будут бесповоротными.

ЕЩЁ ПО ТЕМЕ:

Глобальная катастрофа из-за ИИ может наступить в течение пяти лет

ИИ угрожает Человеку

Взаимодействие блокчейна и искусственного интеллекта (ИИ)

Капитализация компаний США упала на триллион долларов из-за китайского ИИ?

Google с помощью ИИ создаст имитацию физического мира. Зачем?

Электричество из дождя: новые горизонты от сингапурских ученых

Золото из свинца: открытие на Большом адронном коллайдере

Шахматы 4К. Шахматы и Космос. Космические шахматы. Автор и ведущая - Светлана Мельникова

Салбыкский курган – хакасский стоунхэндж. Экспедиция Андрея Полякова

Российский вундеркинд Иван Землянский одержал победу на чемпионате Азии по блицу

Спящий Саян. Не пора ли очнуться? Экспедиция Андрея Полякова «Цивилизации Юга Сибири»

Агентство популярной Информации API TV