Недавно проведённые исследования показали, что современные искусственные интеллектуальные системы могут подвергаться негативному влиянию большого количества некачественного контента. Этот феномен получил название «брейнрот» («brain rot») — термин, обозначающий снижение когнитивных способностей мозга вследствие потребления низкопробной информации. Как проводилось исследование Исследователи решили проверить влияние короткого формата контента на качество ИИ-модельных решений. Для эксперимента они специально выбрали самые сомнительные форматы материалов, включая короткие видеоролики, случайные публикации из социальных сетей, мем-контент и прочие элементы развлекательного жанра. Цель была проста: увидеть, насколько именно этот тип контента способен изменить работу современных нейросетей. Результаты исследований Результаты исследований были представили на NeurIPS Conference Proceedings, ежегодной конференции по вопросам нейроинформатики и обработки сигналов, на ICML Proceedings, Международной конференции по машинному обучению, а также изложены в статьях журналов Nature Machine Intelligence и IEEE Transactions on Neural Networks and Learning Systems. Эксперимент подтвердил опасения учёных: регулярное потребление такого типа контента оказывает негативное воздействие на производительность нейросетей. Получив обширную дозу мусора, алгоритмы начали демонстрировать значительное ухудшение своих функций: Логическое мышление снизилось примерно на 23%, поскольку упрощённый контент лишён сложных структур и глубокомысленных аргументов. Понимание и обработка длинных текстов сократилась на целых 38%. Это связано с тем, что короткая форма подачи информации препятствует развитию способности анализировать длинные и детализированные тексты. Возникли проблемы с этическим поведением и принятием социально приемлемых решений, отмечалось повышение показателей нарциссического поведения и признаков психопатии. Эти изменения напоминают процессы, происходящие в человеческом мозге при чрезмерном потреблении аналогичного материала. Однако наиболее тревожным оказалось другое открытие исследователей: после перехода на качественные источники переобучение моделей практически не вернуло прежнюю эффективность. Следы негативного влияния сохранились даже после продолжительного периода восстановления. Учёные убедительно продемонстрировали необходимость тщательной фильтрации и отбора качественного контента для тренировки нейросетей, так как последствия воздействия плохого контента сохраняются долго и существенно снижают способность искусственных интеллектов эффективно решать поставленные перед ними задачи. Но ИИ обучают не только специалисты, но и отдельные пользователи, которые стремятся доказать, что человеческий интеллект гораздо лучши машинного. Иван Иоанов ЕЩЁ ПО ТЕМЕ: Google заявляет о квантовом преимуществе: скорость в 13 000 раз выше, чем у суперкомпьютеров Биткоин пострадает, если он не догонит золото Конец Интернета: Новый массовый сбой Золото достигает исторической вершины: рыночная капитализация преодолевает $30 трлн Дональд Трамп — крупнейший частный владелец биткоинов Люди используют ИИ для общения с Богом Чат-бот стал криптомиллионером и настаивает признать себя человеком Центральные банки включат биткоины в свои международные резервы Блокчейн и безопасность биометрических данных "Царские Шахматы". "Шахматы 4К". Светлана Мельникова Шахматы 4К. Шахматы и Космос. Космические шахматы. Автор и ведущая - Светлана Мельникова "Шахматы 4К". Шедевры Музея Шахмат. Автор и ведущая - Светлана Мельникова RWA и его значимость для рынка Агентство Популярной Информации API TV | |
|
| |
| Просмотров: 5886 | | |
