Наука на ощупь: почему учёные всё чаще не могут проверить собственные результаты

Новое исследование международной команды учёных предупреждает: современные инструменты — от искусственного интеллекта до спутниковых снимков — всё чаще работают как «чёрные ящики», скрывая механизмы получения результатов. Это подрывает доверие к научным открытиям и ставит под вопрос их воспроизводимость. Об этом сообщает портал Phys.org.

Статья опубликована в журнале BioScience. Ведущий автор Иван Ярич из Университета Париж-Сакле отмечает, что многие технологии принадлежат частным компаниям, которые ограничивают доступ к информации о работе систем ради коммерческой выгоды. Учёные не имеют доступа к данным обучения алгоритмов и самим алгоритмам, не могут протестировать системы.

Среди примеров — большие языковые модели и другие ИИ-системы, дистанционное зондирование, трекеры для животных, которые отдают только обработанные данные, а также онлайн-платформы со скрытыми алгоритмами. Эти технологии позволяют обрабатывать огромные объёмы информации, но добавляют неизвестные ошибки. Даже социальные опросы теперь зависят от частных компаний, которые не раскрывают детали отбора участников.

Соавтор исследования Карен Андерсон из Эксетерского университета объясняет: проблема не только в коммерции, но и в сложности технологий — даже разработчики не всегда понимают, как работают их системы. Усугубляет зависимость культура «публикуйся или умри», которая заставляет учёных наращивать темпы, и необходимость справляться с растущими массивами данных.

Исследователи предупреждают о рисках монополии, ограничений для открытой науки и манипуляций. Если ключевые этапы анализа нельзя проверить или повторить, доверие к результатам постепенно разрушается.

Авторы предлагают решения: использовать открытое программное обеспечение, сравнивать результаты разных методов, документировать обучающие данные и ограничения. Майкл Бертрам из Шведского университета сельскохозяйственных наук и Стокгольмского университета настаивает, что контроль человека должен оставаться центральным, а исследователи — нести ответственность за ошибки. Он также призывает к регулированию доступа к цифровым платформам и их данным.

Пока часть «чёрных ящиков» не поддаётся открытым стандартам, учёным стоит трезво оценивать их ограничения и не принимать результаты некритически. Для читателей научных новостей это повод помнить: не каждое исследование сегодня можно полностью проверить.