На прошлой неделе мне удалось сгенерировать с помощью ИИ фальшивое исследование, доказывающее, что употребление вафель способствует облысению. Оно было полно сносок, ссылок, сложных математических расчётов и моделей. (The Epoch Times)
Было немного страшно видеть, насколько достоверными кажутся результаты. Приходилось внимательно всматриваться, чтобы заметить проблемы. Я поделился им с другими, и они тут же сказали что-то вроде: «Поверить могу».
Не ешьте эти вафли, иначе волосы выпадут. Наука так говорит!
Подумайте об этом. Мы никогда прежде не были в состоянии генерировать столь, казалось бы, научный контент по любой теме в мире за считанные секунды. Эта возможность существует всего два года. Многие даже не знают о её существовании, не говоря уже о том, насколько это просто. Злодеи могут использовать эту возможность в любое удобное для них время. Они могут рассчитывать на традиционное доверие к «науке», чтобы выдавать такую фальшивку за реальность.
На прошлой неделе мы стали свидетелями очередного отзыва из публикации фальшивой научной статьи. Это серьёзное событие. Издание — журнал «Lancet» , одно из самых престижных изданий в мире. В нём было опубликовано исследование, прошедшее тщательную экспертную проверку. Но оказалось, что авторы ввели экспертов в заблуждение.
Отозванная статья – одна из многих, опубликованных в рамках масштабного и хорошо финансируемого исследования терапевтических препаратов для лечения COVID. Исследование называлось TOGETHER. Оно финансировалось за счёт грантов от FTX, криптовалютной компании, впоследствии закрытой за мошенничество, а также финансовых компаний, владеющих крупными фармацевтическими акциями, и аналитических центров, финансируемых промышленностью, которые надеялись продавать вакцины. Если исследование верно, то вакцинация, по-видимому, была единственным выходом.
Авторы заполонили все журналы статьями о результатах. Пока отозвали только одну, но, вероятно, и другие со временем сделают то же самое. В их числе — New England Journal of Medicine, издание, которое гордится низким процентом отзыва.
Исследование TOGETHER было проведено и опубликовано четыре года назад. Всё это время бурлили вопросы и критика. Когда исследование было опубликовано в 2021 году, его назвали одной из главных причин изъятия гидроксихлорохина и ивермектина из продажи. Даже если ваш лечащий врач выписывал рецепт, ответ был «нет».
Никогда не забуду тот день, когда я зашёл в ближайшую аптеку и показал им свой рецепт. Девушка за прилавком извинилась и вышла поговорить со своим менеджером, но тот, не сказав ни слова, отрицательно покачал головой. После этого мне пришлось спешно заказать лекарство из Нью-Йорка, которое отправили на следующий день, у человека, заказавшего его в Индии. Мне стало лучше через три часа.
Позже я узнал, что, хотя миллионы людей делали нечто подобное, поскольку это был единственный способ получить эффективные лекарства, такая практика, скажем так, не одобрялась.
Почему все аптеки в моём районе отказали мне в проверенных лекарствах, которые мне прописал мой врач? Потому что они верили науке.
В этом и заключается проблема фальшивой науки. Она имеет реальные последствия. Мы якобы живём в век науки, но авторитет всех институтов сейчас падает. Лозунг «наука» был использован для оправдания невиданного ранее уровня наступления на свободу. В результате репутация науки в целом серьёзно пострадала.
Испытание TOGETHER, по крайней мере, выглядело правдоподобным. В конце концов, они действительно провели настоящее исследование. Исследование SURGISPHERE, напротив, о котором было объявлено в начале лета 2020 года, оказалось полностью сфабрикованным. Таким образом, его выводы оказались недействительными. И, справедливости ради, следует отметить, что фальшивая наука не была полностью однобокой. В некоторых исследованиях, показывающих обратные результаты, также были обнаружены поддельные данные.
В конце концов, за этот период были опубликованы сотни тысяч статей, и сегодня отзывы происходят так же быстро, как и принятие в прежние времена. Друзья мои, это не просто проблема пиара. Это настоящий кризис доверия к самой науке.
Когда наука говорит вам, что вы не можете спокойно устроить ужин в честь Дня благодарения у себя дома или воспеть хвалу Богу, не убив при этом бабушку, она ставит под угрозу сами основы научной революции.
Добавьте сюда искусственный интеллект, и вы усугубите проблему в десять тысяч раз.
Со мной неделю назад произошёл серьёзный инцидент такого рода. Я был на мероприятии, где двое британцев с широкими улыбками и аристократичным акцентом ходили по залу, чтобы выступить против поддельного мяса. Я им сочувствую. Вот так люди начинают терять бдительность.
Они снимали людей и, прежде чем включить камеру, представляли исследование, утверждающее, что поддельное мясо вызывает аутизм. Затем интервьюируемому предлагалось подтвердить это исследование перед камерой. Меня заставили перед камерой осудить поддельное мясо — я полностью подчинился, — но затем надавили, чтобы я подтвердил их исследование. В этот момент включилась та часть моего мозга, которая не верила, и я понял, что что-то не так. Я отказался говорить то, что они требовали.
На следующее утро я понял, в чём подвох. Эти весьма убедительные ребята сфабриковали это неподписанное исследование, чтобы обмануть людей. Цель была простой, но в то же время довольно гениальной. Она заключалась в том, чтобы доказать, что сторонники свободы в здравоохранении одобрят любое исследование, которое, по всей видимости, подтвердит их предвзятость. Конечным продуктом, вероятно, стал документальный фильм, призванный дискредитировать всё движение, а вместе с ним и администрацию Трампа.
Заговор был раскрыт. Тем временем у меня появилась возможность поразмыслить над смыслом всего этого. Мы живём в очень странное время, когда эмпирическая наука используется как оружие в политических целях. Более 500 статей были отозваны, но бесчисленное множество других остаются уязвимыми.
Меня беспокоит, что этот опыт породил своего рода нигилизм, который окружает всю эту отрасль. Шутники, разъезжающие по научным конференциям с фальшивыми исследованиями, призванными троллить людей, не только бесполезны, но и ещё больше подрывают доверие.
Ключевым моментом научной революции XVI и XVII веков стало создание более надёжного способа познания истины. В прежние времена вера занимала центральное место, а теология была королевой академических дисциплин. Но труды Коперника, Кеплера, Бэкона, Декарта и Ньютона — все они были великими мыслителями — казалось, доказывали, что наблюдение и индукция являются более надёжной основой познания.
Эта революция в мышлении совпала по времени с колоссальным прогрессом в технологиях, медицине и обеспечении всеобщего благосостояния. Мир кардинально менялся, росли мобильность, свобода выбора и материальный прогресс. Мы окончательно покинули то, что впоследствии стало называться «тёмными веками», и вступили в новые времена. Наука стала новым правителем мысли.
В основе всегда таилась проблема. Если мы хотим возвысить наблюдение и эмпирическую работу над верой и дедукцией, мы действительно ниспровергаем одну из форм церковного авторитета. Но разве мы не превозносим другую форму авторитета, а именно наблюдателей, учёных, людей, собирающих, хранящих и интерпретирующих данные?
Да, это действительно так.
Другими словами, мы можем целыми днями говорить о науке, но вопрос доверия никуда не денется. Мы можем доверять Церкви и богословским авторитетам. Мы можем доверять собственному прочтению откровений, таких как Библия. Или же мы можем доверять науке и научному сообществу.
Причина проста. Никто не в состоянии знать и проверить все факты, связанные с тем, что мы называем наукой. У нас нет другого выбора, кроме как верить рассказчику. Когда выясняется, что рассказчик играет нечестно или преследует иные цели, что это нам даёт?
Вот главная проблема, с которой мы сталкиваемся сегодня в сфере науки. Похоже, что многое пошло не так, и сама научная революция теряет свою власть над общественным сознанием. Мы пока не знаем, что придёт ей на смену.
Задумайтесь на мгновение о том, что сохранилось, не повредив своей репутации. Я говорю о евклидовой геометрии, названной в честь греческого философа IV века до н. э. Методы Евклида сохранились до наших дней. Причина в том, что мосты работают, а здания возносятся к облакам. Рассмотрим метод: дедукция, основанная на логике пространства, измеренного математически.
Существуют школы логики, математики и геометрии, но внутренняя непротиворечивость обязательна и может быть проверена каждым. Дедукция демократична. Она не опирается на авторитет какого-либо авторитета, кроме самой логики, и, следовательно, сама по себе является критерием надёжности. Доказательство заключается в том, действительно ли стоит то, что строится.
Меня поражает невероятная ирония того, что эти принципы выдержали испытание временем, даже спустя 2400 лет. Открытия Евклида опередили научную революцию более чем на 2000 лет.
Никто из нас не знает, что возникнет из этого хаоса, но, похоже, сейчас время колоссальных перемен. Мы переходим от неудавшейся парадигмы знания истины к чему-то, что ещё предстоит определить. Это самый важный спор нашего времени.
А что касается вафель, будьте там осторожны!
(в пересказе)
