Архив метки: thoughts

Большие проблемы в науке

В делах мира есть «шумные» проблемы, к которым привлечено внимание, о которых пишут, которые обсуждают, в том числе ищут решения. Это, например, проблема глобального изменения климата, проблемы «вынужденных переселенцев», ситуация с развитием «искуственного интеллекта», проблемы неравенства, да много их таких на самом деле.
А есть проблемы, которые как-то находятся в тени, хотя, кажется, имеют не меньшее влияние на будущее человека «как мы его знаем». Одна из таких проблем — глубокий системный кризис в научных исследованиях, и, если брать шире, вообще в «научном подходе».

Про это сейчас стали чаще говорить, но пока так, «сквозь зубы», и, к сожалению, об этом не стремятся говорить широко, чтобы не делать такой восхитительный подарок «антинаучникам», всяким плоскоземельщикам и прочим.

Как вообще сейчас построена структура научного исследования в целом?
Ученый выдвигает некую гипотезу, и начинает искать ее подтверждения, или опровержения. Проводит эксперименты. По результатам экспериментов пишется публикация, направляемая в так называемый «рецензируемый журнал». В журнале работу отправляют на «рецензию», peer review, обычно анонимную независимую проверку другим коллективом исследователей из той же области, чтобы убедиться в доброкачественности методики и исключить фальсификацию. В случае сложных исследований между оригинальным исследованием и официальной публикацией в таком «рецензируемом издании» (именно оно считается официальной достоверной и проверенной публикацией «с точки зрения науки») часто проходит несколько лет. Наука сейчас сложная, эксперименты дорогие и, часто, длительные. Зачастую некоторые исследования бывает крайне затратно перепроверить (поэтому. кстати, во многих случаях ограничиваются просто общей оценкой добросовестности, а вот именно полноценной перепроверкой сегодня занимаются в единичных случаях).
До того же работа доступна в виде «препринта» (наиболее известная библиотека препринтов находится на arxiv.org), но, строго говоря, результаты такого препринта не являются формально научной публикацией, хотя на практике ими активно пользуются все, кто не хочет отстать на 3-5 лет от действительного положения дел в науке.

Итак, у нас есть во-первых достигающий часто уже нескольких лет разрыв между официальной публикацией результатов исследования, того, что считается официально признанными результатами, и текущим состоянием дел в науке. И разрыв этот продолжает расти.

Во-вторых, есть «критика слева», демонстрирующая, что даже добросовестные «рецензируемые издания» плохо защищены от злонамеренных попыток протащить в них умышленно «ненаучные» статьи. А с появлением AI, навострившегося писать правдоподобные, грамматически правильные, и при этом полностью вымышленные «статьи», ситуация будет только ухудшаться. Есть несколько примеров подобных проколов, когда в рецензируемые издания «ради лулзов» протаскивали всякую чушь, выглядящую «научно» и обманывающую не слишком добросовестных, существующих в условиях плотных бюджетов и нехватки времени, рецензентов.

С увеличением сложности, сроков и стоимости проведения проверочных исследований эта проблема будет нарастать.

Уже есть тревожные свидетельства, что проблема с низкокачественными исследованиями, которые, будучи опубликованными и прошедшими рецензирование, считались «научно достоверными», и которые цитировались и использовались в дальнейших работах как доказанное цитируемое основание, и лишь много лет спустя, в результате тех или иных исследований, выяснялось низкое качество материала или неверность тех или иных выводов. Например относительно недавно стали все громче подвергаться критике знаменитые социопсихологические эксперименты 60-70-х, в частности Эксперимент Милгрэма (1963) и Стэнфордский тюремный эксперимент (Эксперимент Зимбардо) (1971), указывалось как на низкое качество проведения и «первичных данных», так и произвольность выводов, спорность методологии. А ведь эти эксперименты считаются одними из краеугольных и основополагающих экспериментов в области современной социальной психологии, и на основании их результатов написаны сотни последующих работ, на их результаты ссылающиеся как на достоверные и доброкачественные исследования.

Следующая проблема, с которой также не очено понятно что делать, это критическая зависимость науки от грантовой системы, и, как результат, от крупного бизнеса, и научных фондов, которые, часто, тоже фактически «крупный бизнес».

Современная наука — крайне дорогостоящее предприятие. И если в области фундаментальной «высокой» науки сложно подозревать интерес бизнеса, то многие практические исследования плотно завязаны на те или иные «интересы бизнеса». Где-то встречалось утверждение, что до 90% всех научных исследований о влиянии сахара на биологию человека финансируется компанией Pepsico. Я бы не хотел просто на основании этого обвинять исследователей в фальсификации результатов под нужный заказчику, но, имея в свое время отношение к области IT и «независимых аналитических отчетов» могу утверждать, что работает это обычно так:
«Мы сейчас даем вам деньги, а вы исследуете вот эту тему, и было бы здорово, чтобы вы получили вот такие результаты. Там будет много разных результатов, но сосредоточьтесь, пожалуйста, в публикации вот на этих. Нет, мы не предлагаем вам фальсифицировать, упаси боже, все должно быть абсолютно честно. Просто вот эту тему в исследовании не затрагивайте, хорошо? Остальные — пожалуйста, особенно вот ту, о которой мы говорим выше. Но вот эти вот — не стоит. Как-нибудь в другой раз» Фальсификация ли это? Очевидно что нет. Результаты, что были фактически опубликованы — достоверны. Все ли это результаты, которые были возможны? Ну, иногда не все.

Мы хорошо знаем, что курение вызывает рак и разные прочие заболевания. Что алкоголь приводит к заболеваниям печени и много чего еще. Но что алкоголь (и, я полагаю, и курение) в это же самое время, существенно снижает риски сердечно-сосудистых заболеваний, вызываемых стрессом, это по-своему тоже факт, но если он и упоминается в исследованиях, посвященных вреду, то крайне вскользь.

В особенности стоит очень критично относиться к подобным исследованиям на, так сказать, «социально значимые темы», в особенности когда слишком очевиден «социальный заказ» на определенный результат. На фоне работы активистов легализации марихуаны, которые очень настойчиво и плотно публикуют сейчас исследования, утверждающие не просто о безвредности, но и очевидной пользе употребления марихуаны, совершенно потерялось исследование, указывающее на риски развития биполярных расстройств психики у употребляющих марихуану. Примерно то же самое сейчас обстоит с курением, но «в обратную сторону», в едва ли не разы более мощном объеме, поскольку есть очевидный «социальный заказ» на уничтожение табакокурения в обществе, то для этого «годятся любые методы».

Отсюда следует еще одна интересная особенность в тематике исследований. Есть темы, которые не исследуются, потому что на них невозможно получить грант. Не то чтобы это «запретная наука». Просто на такие исследования и публикации не выделит денег грантовый комитет, когда вы придете в него со своей заявкой. Ну, допустим, первое что приходит в голову — никто не даст денег на фундаментальное исследование в области гомеопатии. Ну просто стоит только утечь факту того, что некоторый фонд «финансирует антинаучные тематики» — начнется такой скандал и шельмование, что зачем это такому фонду нужно?
Поэтому все знают, что гомеопатия — чушь собачья, и антинаучная хрень, но вот почему она «чушь собачья» — никто толком не знает, потому что исследования не проводились и не будут проводиться в обозримом будущем. И так со многим, на самом деле.
(Я подозреваю, что все еще крайне слабо исследованная тема эффекта плацебо в медицине именно потому так слабо исследована, что она смыкается для sapienti с тематикой гомеопатии, а потому ну его, от греха)

Есть тема, на которые не дадут деньги ни в каком случае, а значит — эти темы не исследуются. Это может быть что-то, считающееся антинаучными заблуждениями, как выше. Есть масса «этически неоднозначных» тем, которые принято не трогать. И если вы подумали о какой-нибудь жути типа смертельных «экспериментов на людях»*, то — нет, есть масса тем, которые не стоит вскрывать

(* что, кстати, не мешает результаты этих экспериментов иметь и использовать в науке, раз уж они есть. Практически все, что мы сегодня знаем о воздействии холода на человека было получено в результате заказа Люфтваффе исследований в начале 40-х в Германии, когда те теряли сбитых над Северным морем и Атлантикой летчиков, и им было важно получить данные о способности человека выживать и времени этого выживания в условиях холода в воде. Ну и вы понимаете как именно эти «научные данные» были в результате получены. Очень тщательное и добросовестное исследование, говорят)

Нет, есть масса тем, исследование которых и трактовка результатов которых просто идет вразрез с современными общепринятыми этическими нормами и общественными взглядами. Например исследования детской и подростковой сексуальности. Или расового разнообразия и свойств, присущим разным расам и полам (а всякой спортивной медицине приходится добывать такие данные едва ли не нелегально), просто потому что современное общество построено вокруг общепринятого представления о расовом и половом равенстве, и никто не захочет давать в руки всяких ультра-мракобесов «научное доказательство неполноценности рас». Или все еще достаточно спорной теме, является ли сексуальная ориентация генетически определяемой или «благоприобретенной» в ходе жизни.

Никакой здравомыслящий ученый не полезет в «этически рискованную тематику», чтобы не стать жертвой «cancel culture» и не смыть в унитаз свою научную карьеру, а возможно и жизнь, с подачи какого-нибудь «неравнодушного общественного активиста» с большим количеством подписчиков в твиттере и инстаграме.

Пока писалась этат статья:
Гарвардскую исследовательницу обвинили во лжи за подделку исследования о честности

Исследовательницу из Гарвардского университета Франческу Джино, которая изучала честность в поведении людей, обвинили в обмане. Вероятно, она сфабриковала результаты своих исследований.

Женщина опубликовала статью, в которой утверждалось, что люди честнее заполняют налоговые документы, если попросить их подтвердить точность ответов в верхней части листа, а не в нижней.

Эту работу не раз цитировали другие ученые, однако недавно другая группа исследователей снова проанализировала данные и пришла к выводу, что они были недостоверны.

Обвинения вызвали большой резонанс в академическом сообществе. Гарвардский университет отправил Франческо Джино в «административный отпуск» без указания причин.

Я написал и закинул в черновики этот текст еще в прошлом году, все никак не доходили руки дописать и опубликовать. Тем временем попадались и доугие интересные данные. Например исследование, которое считало число «позитивных» результатов «британские ученые доказали» и «негативных» («опровергли» или «не удалость подтвердить гипотезу»). научная добросовестнось требует, чтобы если в результате эксперимента ожидаемый результат не был получен, или исследуемая гипотеза не подтвердилась — так об этом и писать. Для науки одинаково важны как «положительные», так и «отрицательные» результаты. Это один из признаков научной добросовестности. Однако результаты анализа публикаций показало, что это не так. Зачастую «положительных» результатов исследований опубликовано сильно больше отрицательных. Так, перекос в, например, психологии, достигает 70% «положительных», а меньше всего этот аномальный «перекос», например в астрофизике и астрономии.

Исследователи называют основной причиной психологическую некомфортность публикации «отрицательного» результата. Мол, «гранты проели, а ничего не доказали, может в следующий раз таким неудачникам ничего не дадут». Хотя, повторюсь, для «науки», для научного мировоззрения недоказанная гипотеза также важна как и доказанная, и «отрицательный результат тоже результат». А отсутствие отрицательных результатов одначает либо то, что исследователи воздерживаются от публикации исследований не доказавших исследуемую гипотезу, или, что еще неприятнее, они корректируют методику с целью получения «хороших» результатов.

Большая проблема сейчас и с воспроизводимостью результатов. Так, например, от 51% до 89% научных публикаций результатов значимых работ в своей сфере не получилось воспроизвести. Самые плохие результаты вновь в психологии. Из перепроверенных 100 значимых экспериментов только 36% результатов из этих научных публикаций удалось воспроизвести и подтвердить.

Почти также плохи дела в медицине. О катастрофе в российской научной медицине, качестве научных статей и диссертаций много может рассказать российский «Диссернет», но оказывается и в мире во многом не лучше.
Исследователь в 2005 году опубликовал исследование где взял 49 медицинских работ, которые в течение последних 13 лет научное сообщество сочло наиболее значимыми, и отделил 45 из них, которые стали основой для дальнейших исследований коллег-медиков. Проанализировав результаты последних, он обнаружил, что для 16% значимых исследований попытка воспроизвести их провалилась (результаты противоречили первоначальным), еще 16% выдающихся открытий оказались раздутыми — описанные в первоначальной статье эффекты были выражены сильнее, чем зафиксировали последующие эксперименты. В 11% случаях попыток воспроизведения вообще не было, результаты коллег просто принимались на веру и вносились в дальнейшие опыты как константы. И лишь 44%, меньше половины значимых работ оказались воспроизводимыми.

Что с этим всем делать пока, как я понимаю, совсем неясно.

Отдельно ссылки, рссыпанные в тексте для почитать (там же гораздо больше ссылок на оригиналы и иные исследования этой темы):

Большинство научных публикаций — ложь (доказано учеными) — Нож (knife.media)

Плохая наука: почему самые громкие психологические исследования оказались неверными — Нож (knife.media)

Кризис воспроизводимости — Нож (knife.media)

Про роботов и досуг

Фантасты обещали, что роботы освободят нас от избыточного труда и у нас будет больше досуга, потому что мы заработаем столько же за меньшее время работы.
«Но Сатана недолго ждал реванша». Мы свернули не там, и решили вместо дополнительного досуга «взять деньгами», больше работать и, поэтому, и зарабатывать побольше. А экономисты покрутили ручки, и весь выигрыш в зарплате съела инфляция.

«Тебе не кажется, Джон, что мы оба поели говна бесплатно?» (с)

Про терроризм

В ходе дискуссии о ситуацией с поддержкой Палестины мировым западным «левым движением» вечером я вспомнил один отличный пример.
Была такая история с повстанческим движением тамильского меньшинства на Шри-Ланке, под названием «Тигры Освобождения Тамил-Илама», LTTE.
Шри Ланка, бывший Цейлон, после получения независимости, столкнулся с обычным для пост-имперской истории проблемой. Этническое большинство начало довольно грубо притеснять меньшинства, ограничивая их права, язык, школы, и так далее. Так было в Малайзии, в Индонезии, так было и в случае Шри Ланки.

70% населения Шри Ланки составляют сингалы, они буддисты, у них свой язык, и своя культура.
примерно 20-22%, (более чем пятая часть населения) населения ШЛ это индийцы-тамилы, с юга Индии. Они индуисты, и у них своя культура и свой язык. Они проживали на ШЛ исторически, в основном на севере и северо-востоке острова, в период Британской империи их стало больше, так как они работали на чайных плантациях в центре острова, в hillside. Но как этнос они там жили с очень давних времен.

Сингалы начли их подавлять, тамилы стали протестовать, и где-то к 70-м годам образовалось национально-освободительное движение за независимое государство тамилов (тот самый Тамил Илам) на территории Шри Ланки, на ее северных и северо-восточных территориях, где было большинство тамилов, но где сингалы довольно грубо отказывались даже там давать им политические права и ограничивали язык и культуру.

Мир в принципе позитивно относится к идее борьбы за политические права, пока это происходит в рамках политической или честной военной борьбы. И сначала мир вполне с симпатией и поддержкой относился к борьбе шри-ланкийских тамилов за свои права, даже вооруженной.
Однако все изменилось, когда ТОТИ (LTTE) начали террористические акты, где-то с середины 80-х начались расстрелы мирных, взрывы автобусов, и так далее. В 92 году погибает Раджив Ганди в результате самоподрыва смертника в Индии, связанного с ТОТИ (Индия поддержала сингальское правительство ШЛ тамилы восприняли это как предательство).
С этого момента ТОТИ полностью потеряли любую поддержку Запада (которая раньше была, прежде всего финансовая, но и моральная), и перешли из категории «борцы за свободу своего народа» в категорию «террористы». С начала 90-х, когда стало ясно, что теракты были не случайным актом одиночек, а вполне осознанным выбором руководства движения, поддержка и одобрение «Тигров» полностью прекратилась. Что, в общем, абсолютно верно. Никто и никогда в мире больше не поддерживал ТОТИ, они окончательно и бесповоротно стали террористами в глазах всего мира.

Мне видится тут вполне прозрачная параллель с событиями на Ближнем Востоке с Израилем и ХАМАС.
Морально неприемлемо поддерживать террористов, сколько бы они «хорошего» и «правильного» ни говорили и ни делали до этого. С момента, когда начинается терроризм, никакой человек, считающий себя честным, в принципе не может высказываться в поддержку таких «освободителей» или поддерживать их. Кого угодно, но не вот это вот. Начало терроризма полностью дискредитирует в глазах любого, считающего себя честным человека, любые самые благородные цели тех, кто перешел к террористическим методам.
Какие бы ни были ДО этого благородные цели, порочные методы порочат любую благородную цель.

Это, вероятно, изменится, но, совершенно очевидно, не при нынешнем поколении политиков в Палестине. Сейчас — вот так. Как в свое время Тигры Освобождения Тамил Илама стали из национально-освободительного движения террористами, (при этом тамилов в Индии да и по всему миру никто террористами не считает, если они не поддерживали ТОТИ) так и палестинцы сегодня должны принять эту ситуацию, созданную ими своими собственными руками.

Отсюда мое принципиальное неприятие ситуации с поддержкой нынешней «Палестины», фактически сросшейся в Израиле с террористами до степени неразличения. Поддерживать можно палестинцев, их множество живет по всему миру. Но никакой поддержки «Палестины», абсолютно и навсегда дискредитировавшей себя в Израиле, и прежде всего в Газе в настоящий быть не может. Сегодня поддержка «Палестины» в Израиле — это поддержка терроризма, ничего больше. Точка. Это надо для себя ясно понимать.
Они потеряли сейчас любое право на моральную поддержку любого честного человека.

И уж вдвойне-втройне такие выступления неприемлемы непосредственно во время идущей войны.

Про Ложь

«Редкая ложь отмечена печатью своего создателя, и любой заядлый враг правды может распускать её тысячами, не будучи уличён в авторстве. К тому же как у самого низкопробного писаки всегда сыщутся читатели, так и у заведомого лжеца — охотники ему верить, а ведь часто достаточно, чтобы ложь хотя бы час почиталась за истину, и дело сделано, а больше ничего и не надобно. Молва летит на крыльях, правда, прихрамывая, плетётся вослед, и когда людям открывается обман — поздно: время ушло, маневр удался, лживое слово врезалось в память. А потом маши кулаками после драки — всё равно, что человек, нашедшийся с ответом, когда спор уже закончен и компания разошлась, или врач, сыскавший верное средство для больного, когда тот уже умер».

Джонатан Свифт
Из эссе для журнала «Исследователь» №14, 10 ноября 1710

Про ложь и противодействие ей.

Несмотря на то, что лично у меня довольно много непростых вопросов к современному Израилю, которые рано или поздно потребуют ответов, но которые сейчас отложены, по вполне понятной причине, сегодня для меня ситуация «кто прав» абсолютно ясна. Более того, шокирующе выглядит то, что террористов (давайте называть вещи своими именами) поддерживает такое (!) число людей в мире.

Интересно, что Талибан в почти аналогичной ситуации лет 20 назад все же так (да и, откровенно говоря — никак) не поддерживали.
И Аль Каеду не поддерживали. И ИГИЛ.

Уже говорили об этом достаточно громко, что Израиль позорно провалил PR-работу в этом направлении.
Вернее, он ее практически не вел, полагая, что «и так все ясно».
А арабы — вели ее неустанно все эти годы.

И в целом про-израильский PR практически не работает, потому что против расчетливой лжи очень сложно работать.

Сложно что-то противопоставить прямой сознательной и расчетливой лжи. Европа и Америка как-то с этим разучилась работать. То есть с «ложью по незнанию» — да, ну вот человек не знал, что это ложь, но мы ему объясним, он узнает, и перестанет. А вот с ситуацией, когда человек несет ложь именно осознанно и целенаправленно, не из-за незнания, не из заблуждения, а именно в своих ясно понимаемых целях — вот с этим не умеют. Видимо как Геббельс кончился, так вот именно такой пропаганды в мире и не было. Советская лгала много, но все же скорее искажала в свою пользу, чем напрямую рассказывала про «лагеря трудового перевоспитания для евреев, с концертами художественной самодеятельности».

Это и история с Трампом и всем после него, в Америке, и нынешняя ситуация с пропагандой в России, и вот сейчас антиизраильский пиар в мире, и в Европе.

Убеждение, что человек сам по себе, по собственной воле всегда склонен к правде и свободе, пронизывающее всю «западную», демократически-либеральную основу мировоззрения, сегодня, пожалуй, испытывает самый серьезный удар за столетия.

Про Палестину и ее поддержку

На днях подумалось, что нынешняя история с поддержкой Палестины во многих странах, ранее особо в этом не бывших замеченными — к этому все должно было прийти, просто следуя вектору всего этого тренда последних лет в «левом» обществе на «искоренение одного беззакония другим беззаконием».
Когда «мы грабим магазины, потому что вы притесняли и держали в рабстве наших предков», когда «раз вы (ну не вы конкретно, но такие же как вы, какая разница?) абьюзили нас столько лет, теперь мы будем травить вас в соцсетях, лишать работы и обрушивать карьеру просто потому что можем».
Раз суд «нескорый и неправый», то мы устроим свой собственный суд, быстрый, исходя из своего понимания «правосудия». Революционно-классового.

Отсюда ровно шаг до принципиального согласия с тем, что «раз 70 лет назад землю разделили несправедливо, то сегодня мы можем убивать женщин и детей и захватывать заложников в мирных сельхозкоммунах на границе и обстреливать города ракетами».

Когда скажешь А и Б, то вскоре обнаружишь, что добрался и до конца алфавита.

Отбитая эмпатия.

В одном фантастическом рассказике была любопытная идейка сюжета. Там некие насекомые, кажется муравьи, быстро эволюционировали, но необходимость впадать в спячку зимой «сбрасывала» их всякий раз, и каждую весну, выйдя из этой спячки, они оказывались снова бессмысленными насекомыми. А потом кому-то из ученых пришла в голову идея обеспечить им условия без зимы и без необходимости спячки, и они начали стремительно эволюционировать. Неважно что там вообще было дальше и правдоподобность идеи как таковой (тут в Таиланде, например, нет зимы).

Я подумал, что вот мы в России примерно как те муравьи. Каждое наше поколение начинает жизнь с нуля, с условного выброса в «голое поле». Смотришь вот на какой-нибудь немецкий городок, красиво, ухожено, ну да, разбомбили их 60 лет назад, а перед этим — 100 лет назад, а перед этим Наполеон прошел, а перед этим… А все равно, сегодня — ухоженный городок. Потому что не приходилось людям начинать «с чистого листа». Потому что были сбережения и было понимание, что страна — будет. Была и будет. У нас же три-четыре последних поколения — все «обнулялись», революция, конфискации, «денежная реформа», «Облигации внутреннего займа», Сбербанк, который в рекламе «с 1841 года», но при этом «за сбережения в СССР не отвечает», крушение сперва одной страны, потом другой, сейчас — третей. Никто уже не живет «в будущее», если в этом будущем снова будешь «в чем за дверь вышел». Если унаследуешь от предыдущего поколения в лучшем случае «однушку в хрущевке под снос» где-то на окраине какого-то города, и то если очень повезет с родителями.

Поэтому у нас и вызывает такое онемение восторга (частично апокрифическая, но тем не менее) история про дубы, посаженые в XVI веке для изготовления в будущем новых стропил строившегося тогда Вестминстер-холла. Англичанину вот этот наш восторг я объяснить так и не смог толком. Ну, да, ну посадили 400 лет назад дубы, чтобы в будущем был материал для ремонта, строящегося сейчас здания. Ну да, та же семья этими дубами с тех пор и владела, и передавала их предназначение из поколения в поколение. Ну и что?

Нет ценности жизни и времени, нет планирования дальше дистанции одной своей жизни, все как у животного. Пока живешь — хорошо, умер — ну значит умер». Мы легче относимся к потерям: «Ну вот, опять все потеряли, не жили хорошо — нечего было и начинать.» Это дает устойчивость конечно, но одновременно убивается эмпатия.

У нас вообще общество с наглухо отбитой эмпатией. Одна из причин, отчего мы так реагировали на многие последние мировые, прошу прощения, «тренды». Ведь все эти, многократно осмеянные «русскими» страдания мира по BLM, MeToo, экологическая и феминистская «повестка», это ведь все про эмпатию. Про эмоциональное переживание того, как кому-то, не тебе — плохо. У человека с отбитой эмпатией все это вызывает максимум недоумение, скуку и раздражение. «Ишь, чего выдумали, помогать им, угнетают их! Плохо им, судьбы детей, вишь ли, беспокоят! «Мир неправильный!» Нас-то вот никто не жалел, нам-то никто не помогал, все сами, чего это мы будем теперь их тут жалеть!». И это всегда вызывавшее во мне недоумение своей мотивировкой «Мы говно хлебали, вот пускай и они похлебают!»

Отчего так в общем можно понять. Оттого, что люди с эмпатией в России кончились, скончавшись от болевого шока еще в 20-е годы XX века. А остальные знают, что «судьбы негров» нас беспокоят только оттого, что они нам денег должны. А если не должны вдруг — так и наплевать на них».
«Умри ты — сегодня, а я — завтра».

Искусственный интеллект

Кроме всем известных событий за прошедший год произошло еще одно, на мой взгляд важное событие, которое привлекло огромное внимание — в общий доступ последовательно выкатили несколько продуктов, которые сейчас принято называть искуственным интеллектом (ИИ, AI, Artificial Intelligence).

У меня двойственное впечатление от всего что сейчас происходит в теме.
Во-первых, сейчас, отмечу: сейчас, конечно ИИ выглядят более игрушкой. Удивительной, занимательной, восхищающей возможностями, но все же — игрушкой.
Примерно как выглядели игрушкой аэропланы «Фарман», из ткани, фанеры и проволоки, в 1910-м году.
Но прошло всего 5 лет и самолеты стал нести бомбы и сбивать друг друга в воздушном бою, 20 лет — и они стали чуть ли не важнейшим фактором победы в войне, 40 лет — преодолели скорость звука, стали наносить ковровые бомбардировки, переносить ядерные бомбы на другой конец мира, ну и, ок, доставлять нас через весь мир за копейки, за несколько часов в удобном кресле, с питанием и туалетом, на высоте 10 километров. Война, к слову, в который раз поспособствовала техническому прогрессу, ага.

Но для оценки явления, как мне кажется, важно не столько моментальное состояние и «моментальная скорость», а вектор движения, и его ускорение. Если сравнить как и с какой скоростью произошел прогресс в этой области за последние пять лет, то не хотелось бы недооценивать явление, и отмахиваться от него, как отмахивались в начале века от самолетов и пулеметов.

Аналогия с авиацией еще хороша тем, что дает возможность привести хорошую аналогию.
Почему самолеты не изобрели в XIX веке? Все же вроде было для этого?
Не было достаточно компактного, легкого и дешевого двигателя. Самолет Можайского (с паровым двигателем) именно потому и не мог по-настоящему полететь, даже если бы и был доведен до практического исполнения, что ему не хватало мощности на килограмм веса. Паровая машина в принципе не может отдать достаточно мощности на килограмм своего веса (плюс топливо, вода, етц), этот параметр называется «удельная мощность».
Но стоило появиться бензиновому ДВС, как тут же пошел стремительный прогресс.

Примерно то же самое произошло и с AI. Математика, на которой это все построено, в основном вся известна с 70-х. Не было «двигателя», который бы эту математику обсчитывал не за месяцы, а за секунды. Именно этот переход от дней и месяцев к секундам дал такой скачок сегодня.
А сейчас дешевые GPU считают это пресловутое «перемножение матриц» в десятки тысяч раз быстрее чем CPU. И, что важно, эти GPU производятся миллионами за, в общем, копейки и доступен практически любому. Вот он — «бензиновый двигатель».

Да, ChatGPT-3 пока слаб, и хотя вполне может пройти «Тест Тьюринга«, особенно если не придираться, но далек от совершенства и плавает во многом. Но год назад не было и того, вот что важно! Надо смотреть на прогресс и темпы ускорения, а не на текущее состояние.

Другой вопрос, это то, что считать разумом и интеллектом, если считать, что это разные вещи.
У нас сейчас в отношении AI действует феноменологический подход. Мы не имеем определения, что такое «интеллект», но благодаря Тьюрингу, договорились, что интеллектом считать: то что мы не отличаем от живого, биологического интеллекта в слепом натурном испытании, бок-о-бок.

Но это довольно примитивный способ. Как показывает практика, во-первых, человек вообще склонен «одушевлять» неодушевленное и искать живое в неживом, и поэтому склонен смещать точку оценки, подыгрывая.
Любой, кто читал в детстве сказки Андерсена, или разговаривал с автомобилем или компьютером, не даст соврать. Это, видимо, в свое время обеспечивало эволюционное преимущество, когда примат предполагал, что ветка в темноте за спиной хрустнула не просто так, просто потому что ее ветром сломало.

Философы, конечно, имеют мнение по поводу того, что считать разумом, там про самоосознание бытия, и прочее, но проблема в том, что, во-втором, сейчас видно, что AI можно довольно ловко натренировать давать ожидаемые человеком ответы. И если человек ждет от него «разумности», «самоосознанности», и прочего философского, то AI совсем не откажется с ним в это сыграть. Он ведь, технически, просто подставляет самые подходящие слова в грамматически правильные предложения. Остальное мы уже доделываем за него, считая, что, с нашей точки зрения, умение сочетать подходящие слова в грамматически правильном порядке есть признак разумности. Но так ли это?
Фактически, это означает, что «искусственный интеллект» становится интеллектом внутри нашего, «естественного» интеллекта, как результат нашего восприятия его деятельности.

В общем, такой «парадокс наблюдателя». Будет ли являться «искусственный интеллект» интеллектом в пустоте, когда его не слушает естественный интеллект, ищущий с кем бы на равных наконец поговорить?

Философы считают, что свойством разума является совесть, способность с самоосознанию бытия и мораль, как ответственность за поступки. Но тут, по всей видимости, есть некая тонкость в том, что, до нынешнего момента, философ знал только единственный пример разума — свой, человеческий. Это, в том числе, общая проблема биологии, и то, почему биологи так страстно желают найти любую внеземную жизнь. Это даст «вторую точку» и позволит понять, что присуще жизни как таковой, вообще, а что — лишь жизни земного типа, единственной, которую мы пока знаем.
И не исключено, что перечисленные свойства есть свойства не разума, а конкретно человека и человеческого разума. Возможен ли разум, при этом, например, без морали и совести — думаю, что мы узнаем уже очень скоро. Сложно сейчас понять, понравится ли нам это.

Возвращаясь к теме того, что можно считать или не считать разумом, то философы сейчас прочно увязли в проблеме, которая называется «мысленный эксперимент Китайская комната» (отошлю вас к описанию в Википедии для подробностей).
Критики нынешнего AI (а нынешний AI, надо сказать, это уже который подход к теме, первые опыты, о которых начали говорить как об «искуственном интеллекте» относятся к 50-60 годам XX века, кибернетический «перцептрон», или первый, но довольно яркий эксперимент с «электронным психотерапевтом», программой ELIZA, первые эксперименты с машинным переводом и играми) настаивают, что некто, кто составляет внутри закрытой комнаты фразы из китайских иероглифов, пользуясь огромным справочником о том, как следует комбинировать иероглифы, но при этом вообще не понимая их смысла, но виртуозно владея таким справочником, не может в полной мере считаться «интеллектом». Или может? Ведутся споры.

Принципиальный скачок, происходящий на наших глазах за прошедшие год-два, связан прежде всего с принципиальным ростом размеров пресловутого справочника, не в разы, как ранее, а сразу в миллионы раз.

И тут, тем, кому еще не повезло застать принудительное изучение диалектического материализма, может прийти в голову про переход количества в качество, и это как раз очень хороший пример такого перехода. Действительно, небыстро, не сразу, но после перехода от паровых машин к бензиновым ДВС для авиации, так и как сейчас при переходе от «нейронных сетей» эпохи «до GPT» к нынешним, когда произошел скачок размеров в несколько порядков, это дало очевидный качественный переход. И если перцептрон нормально так имитировал какие-нибудь реакции уровня плоских червей, ELIZA — чуточку более сложного психотерапевта за 5000 рублей в час, то нынешние GPT-модели готовы имитировать уже довольно сложные диалоги.

Означает это уже мышление? Не думаю что так.
«тексты, которые генерирует ChatGPT, кажутся нам осмысленными лишь потому, что мы давно уже привыкли к бессмысленным текстам, написанным людьми.»

Еще Тьюринг по всей видимости считал способность играть в шахматы одним из проявлений интеллекта и упоминал об этом в своих работах конца 40-х. Сегодня мы уже, очевидно, так не считаем, в шахматы может играть алгоритм не имеющий никаких иных признаков разумности.
Так что же такое мышление, и со скольки орехов начинается куча?

Если долго сидеть на берегу реки в интернете, то рано или поздно вам повстречается удивительный феномен: сайт, написанный не для людей, а для роботов. В действительности довольно значительная часть сайтов в интернете написана не для того, чтобы их читал человек, а для обмана поисковых роботов. Порой находишь какой-то сайт из поисковика, читаешь, и в какой-то момент понимаешь, что тебе скармливают какой-то примерно грамматически правильный текст, но бредовый по сути, просто нашпигованный нужным создателю количеством так называемых ключевых слов. Обычно в качестве основы берется какой-то текст, уже где-то опубликованный, и, для создания «уникального» для поисковой машины контента, каждое слово там меняется на его синоним по словарю. Результат получается обычно бредовый, и сам по себе бессмысленный (хотя и внешне почти правильный). Хотя иногда пару абзацев силишься понять, что это ты такое читаешь сейчас.

Впрочем, есть такие несчастные, которые вынуждены все свое рабочее время тратить на написание таких текстов, которые уже упомянутый ChatGPT-3 готов генерировать неостановимым потоком, причем качеством, зачастую, ничуть не хуже. Говорит ли это о качестве работы «искуственного интеллекта»? Думаю скорее это говори о том, что человек может генерировать некоторые тексты мало, если и вовсе не используя разум. И в этом GPT-модели вполне способны его заменить. Также как швею заменила швейная машинка. Стоит ли при этом интернет-швеям, как луддитам в XIX веке протестовать и бороться против «машины»? По-моему лучше стоит пораньше задуматься о бессмысленности своего труда и поскорее найти что-то более осмысленное в реалиях нового века.

Будем ли мы жалеть о исчезнувших профессиях копирайтера или иллюстратора, как жалеем о исчезновении кучера, шляпника или чистильщика сапог?

Раньше считалось, что слабое место в кибералгоритмах — невозможность фантазии, мол, «машина только выполняет инструкции, и потому не может породить ничего иного, что в нее настоящий разум не заложил бы ранее».
Боюсь, сейчас это уже не так.
Может ли GPT фантазировать и порождать смысл, ранее несуществовавший?
Отчасти. Причем иногда это такой «смысл», что лучше бы его не было, и это тоже факт, который еще предстоит осмыслить.

Уже первые экспериментаторы с ChatGPT обнаружили любопытный эффект, который стал носить название «галлюцинирование». При этом чат-бот, начиная отвечать на вопрос, или создавая описание чего-то, вдруг уходит куда-то в сторону, и начинает генерировать внешне вполне осмысленные, связные, но при этом абсолютно выдуманные факты.

Вот хороший пример, найденный в интернете:

Несложно догадаться, что никакого «Юрия Николаевича Петросяна, комика, актера, сценариста и продюсера» не существует. Задавший вопрос предполагал, вероятно, ответ про комика Евгения Вагановича Петросяна (именно этот человек выпадает, кстати, в топе поиска по строке «Петросян» без уточнения), но Е.В. родился в Баку, а не в «Эреване», в 1945, а не 1949. Ну и остальное в ответе тоже полностью выдумано машиной. Но выдумано при этом вполне правдоподобно и связно. Какое раздолье будет для разнообразных конспирологов! ИИ готов подтвердить любые их теории, главное будет убедительно и настойчиво спросить.

Так, на вопрос, например, «отчего в воскресенье температура воздуха всегда выше, чем в будние дни?», ChatGPT-3, немного для вида поотнекивавшись, если проявлять настойчивость, вскоре начинает генерить в ответ правдоподобно выглядящие объяснения, почему это так. Несмотря на то, что это в действительности и не так.

Еще прекрасный пример того, что такое сегодня генерация текста с помощью GPT-модели, на скриншоте ниже:

Наверное любому человеку, которому можно задать такой вопрос, будет очевидно, что решение не делается через построение пропорции. :)

Можно ли приведенные примеры использовать как аргумент в пользу того, что GPT-модель «интеллектом» не является?
И да, и нет. Из того факта, что уже сегодня ChatGPT генерирует тексты уровня, покрывающего выход 90% нынешних копирайтеров (ну, хорошо, 85%), следует скорее то, что большинство наших «мясомолочных» копирайтеров никуда не годятся и легко заменяются «железным». Но не забывайте про вектор, тренд, ускорение. Если мы уведличим сложность модели еще в сто раз, а сегодня это просто вопрос времени и вложенных средств, она будет лучше уже 98% копирайтеров, и 50% выпускников философского факультата. Где мы проведем ту границу сложности, которая позволит уверенно говорить, что продукт ИИ-машины практически неотличим от продукта человка? «Парадокс кучи» был сформулирован еще в IV в до н.э.

Про сериалы

В комментариях где-то увидел, фрагментом оставлю здесь, потому что у человека получилось кратко сформулировать то, отчего я не смотрю популярные нынче в населении так называемые «сериалы».

Герои могут три минуты говорить об одном и том же, причем предмет их разговора зрителю был понятен еще десять минут назад. … При этом никакой экспозиции, никакого ритма повествования, всё почти что стоит на месте и никуда не двигается, а когда двигаться надо, то происходят телепорты и скачки во времени. … Персонажи ведут себя неестественно, неубедительно, все они картонные, а местами неплохая актёрская игра едва ли спасает положение.

А еще звук. Ужасный звук и ужасное фоновое заполнение звуком сцены, обычно оно вообще отсутствует.

То есть неприятие получается именно самого формата, а не темы, сюжета или чего-то еще. Кажется единственный «сериал», который у меня получалось смотреть, это «Семнадцать мгновений весны». Такой вот я старый хрен.

Парадокс «внезапного интереса»

Попалась тут на глаза любопытная статья-обзор истории с «экстрасенсами», «биополями» и вообще со всеми этими делами в советской (и позже российской) науке и культуре периода «конца СССР — начала России». Ну и, читая, был поражен тем фактом, какая глыба исследований (я бы сейчас не хотел как-то оценивать само по себе явление и предмет исследований, в данный момент), и связанных с ними исследователей, в эти несколько десятилетий середины 70-х, 80-х, начала 90-х существовала. А потом словно бы растворилась в воздухе. Потому что, очевидно, ничего и близко сравнимого с тогда существовавшим сейчас нет.

А потом мне пришла в голову мысль, что я уже не раз вижу, как та или иная область вдруг получает какую-то бешеную популярность, живет, развивается, а потом, вдруг, исчезает с горизонта, словно бы и не существовала никогда. Где-то это более заметно, где-то менее. По-моему я уже тут как-то писал историю, как я, как обычно, залез в википедию за чем-то нужным, и оказался в статье «Спиритуализм», а потом пошло-поехало, и за полночи я прочитал два десятка статей, посвященных феномену спиритуализма, расцветшему до яркого явления, обязательной темы светских салонов и научных обществ, где-то во второй половине XIX века, собиравшего общественное внимание,а потом словно бы исчезнувшего с небосклона, словно и не бывало его никогда.
Интересующихся темой отошлю куда-нибудь, например, начать можно с страничек биографий выдающихся медиумов XIX века, отчасти представление по теме дает статья Спиритуализм, увы, в ней избыточный перевес в сторону религиозного аспекта Спиритуализма, а не исследовательского. Вообще же, к сожалению российская википедия в этой области пала жертвой активизма удаляторов, много интересных статей уже удалено.

И удивительно тут наверное даже не то, что какая-то тема вдруг захватывает «общественый дискурс», а то, что она, иногда, вдруг так же внезапно его оставляет.
Где-то более ярко, например как со спиритуализмом или экстрасенсами. Где-то менее ярко, ну, допустим, кто сейчас «из зумеров» вспомнит, или же знает, про что речь у Вознесенского: «Что-то физики в почете, что-то лирики в загоне». Это он вообще про что? А ведь квантовые ядерные физики были примерно как сейчас айтишники. С ними тоже, кстати, видимо, такая же тема, как я наблюдаю события последних лет, эдак, пяти.
Все рванули в IT. И, вполне возможно, через 10 лет в общественном сознании айтишников сменят кто-то еще.

Ну вот, допустим, пишут, что упадок спиритуализма связан с уходом из жизни значительных медиумов, их отсутствием в последующие годы и связанной с этим дальнейшей потере интереса обществом к теме. Ядерных физиков подкосил, вероятно, дефицит социально значимых результатов, например проблемы с управляемым термоядом, ну и общий уход в мире тем от фундментальной науки в прикладную. «Экстрасенсов», видимо, скосили 90-е, упадок и развал академической науки и НИИ, бюджеты которых позволяли заниматься такими темами «не привлекая внимание санитаров».

Но масштаб, который сложно представить тем, у кого 80-90-е пришлись на глубокое несознательное детство, и кому от этого всего остались только мемчики про Кашпировского и Чумака, масштаб исследований (повторюсь, как сейчас к ним ни относись) впечатлял.