I am Hacked, Episode 8, Algorithms Decide, Digital Technology that Puts Critical Thinking on the Chopping Block

Video Transcript:

Скосный интеллект большие данные с цельной сети. Время мы сели в нашу жизнь много пользы. Мы экономим время, экономим силы. Это действительно прорыв. Но вместе с этим есть и другая история, связана с целым комплексом негативных последствий. Как-то человек должен для себя сделать выбор, что для него соцсети. Это инструмент, ты чего-то. Или это часть жизни. Мы не заметили как перелезли в смартфон. Живем теперь там. Хорошему нужно думать о том, что будет через 30 лет, через 10 лет, думать о том, как человек в этом виртуальном цифровом мире будет существовать. Есть определенные исследования, говорящие о том, что мы все живем в пузыре, потому что то, что мы потребляем в качестве контента, формирует нашу реальность. То, как я воспринимаю реальность и то, как вы воспринимаете реальность, крею все это разные реальности. И с одной стороны, нам интернет дал доступ ко всем информацией в мире. С другой стороны алгоритмы закрывают нас внутри такой картиномиры, с которой нам может быть выроваться, будет сложно. Если вот оценивать топ 10-15 технологических корпораций, насколько они влияют на наше информационное пространство, то практически на 100%. Помимо прямой перепродажи контента от рекламодатель КТА, они еще решают, кто будет какой контент видеть, в какое время и в каком объеме. На самом деле сейчас ошибочно полагать, что условный Google на какой-то ответ показывает 100% результат. На самом деле дай бог будет третья, остальная вся информация относится. Если мы хотим найти ответ на вопрос, который идет, скажем так, в разрез с политиком, присковой системой или социальной сети, это будет делать максимально прохвиматично. Я хочу читать про это, а про это не хочу читать. Я все как себя, тем что три раза лайк поставил, целый кусок информации. Чтобы мне эту информацию потребить мне нужно сделать вверх усилие. Мне нужно ли вы поставить себе блокировщики какие-то куки, либо мне нужно идти на специальный поисковик, который это все блокирует. Либо мне нужно использовать торт для того, чтобы меня не мониторили. Либо мне нужно сверху усилием идти на те сайты, которые я не ходил и потреблять до информации, которые я обычно не упребляю. Естественно, любой в горитм можно подкрутить, как-то модифицировать, заложить туда любую, скажем так, идею. Например, основная идея социальных сетей после 2010 года это превосходство левого контента. Я не даю никаких оценок, насколько это хорошо, плохо, это просто факт. Правым, а ультроправым быть не модно. И любой подобный контент всегда будет заняжаться. Любой твит про трамп, сразу же пахтал на информационное дно, любой твит про БОРЛМ, сразу же поднимался у горитмами, особенно это заметно было в тиктоке. Это то, что называется социальных сетей телевой бан, самое опасное, что может произойти. С тобой, как, например, со сточник контента. Самый крутой пример — это аккаунт Раштдей в YouTube. Он не помечен на вас на ночь, на генстов, не помечен, что это источник данных из России, но при этом мы видим, что просмотов очень мало объективно. YouTube очень сильно замяжает в выдаче видеорольки Раштдей. Провести такой эксперимент очень просто, берет любая тема, которая поднимал телеканал, делается чистый аккаунт на чистом компьютере в YouTube. Мы выбиваем туда вопрос, и мы увидим все возможные видеорольки, всех возможных источников кроме и источник Раштдей. Куда ваперх они появились? Да, у горитма про элитизации контента. Задача, которую хотел решить фэйсбука, он первый, кто начал этим вземенцем показывать людям рекламу, зарабатывать на это рекламе. Они начали разрабатываться алгоритм, мы откуда потом вышли? Первый библиотеки машинного обучения, которые публикуют фэйсбук, первый библиотеки персонализации креатива, это с учим образом. Анализируется на член информационное предпочтение каждого человека. Если раньше на с рекламу была направлена какой-то определенный сегмент, на женщин без мужа, на мужиков, без детей, то сейчас каждый рекламы она персанфицирована, она вземодействует с конкретным человеком. Сначала показывать ему в ленте контент, его друзей, с хужех потиматики с рекламным объявлением, для того чтобы его подогреть и создать у него интерес. Потом ему показывает с рекламный баннер, он с ним вземодействует фэйсбук получен свою копеечку. И все было бы хорошо, да, если бы эти алгоритмы действительно в 21 веке, в 2021 году работали, так как их заявляет компания, заявляет фэйсбук о том, что делает подобное угаритме для того, чтобы узнать наши, значит, все очень точные предпочтения. Сам в деле это далеко уже не так и предпочтение создаются. И вот вопросы, какие предпочтения у каких людей создаются, они остаются полностью на решениях частой компании. Если завтра, условно, он найдет какой-нибудь не знаю фейковый или не фейковый ролик о том, что земля плоская. И тут же контент приоритизирует, ну к минимума процентов 20, а может быть, все 40, они обязательно это поверят. И это, на самом деле, очень опасная штука, потому что раньше СМИ были государственные, и у них была пропаганда, значит, повестка, модерация. А сейчас, по сути, дело это принадлежит очень непрозрачным алгоритмом. С одной стороны это хорошо, потому что алгоритм и это не человека, они делают все строго, но с другой стороны, чек может каким-то образом все это дело подключивать. Мы собираем, что ничего информацию, мы еще бедельных раним, потому что нам нужна лишь для того, чтобы улучшить качество сервиса, не врут, так и есть. По-за вопрос другому, что они слишком много знаем. Кроме сервиса, который тебе представляет, они реально бы это сделал тебе у хорошим. Утяжу величи с обем времени, которые пробочные это плачают. Чем качество сервис, тем больше, тем больше, тем больше, это не может сновидств. Сморыши, сморыши, сморыши, видосы, скролиши, скролиши, скролиши, и они могут тебе больше рекламы продать, то есть это для их прямая выгода. Самый крутой пример, удержание внимания, это текток. Вот это вот бесконечный лент. Когда у тебя есть странички, люди меньше время проводят. Ну банально это как штука, но меньше проводят. Потому что ты листаешь, дна нет. Кто-то может посмеяться, что в тектоке оно есть. Но вот в этой ленте, как бы дна нет, это бесконечно скролишен. Обычно молодец человек, пользователя или игрока, притягивает дефамин, притягивает возможность получить, по сути, наркотический кайф, который спроектирован гейн-дизайнерами или UX-дизайнерами, которые разрабатывают современные социальные сети и приложения. Люди мотивированы, зарабатывать деньги, они пишут хорошие программы или плохие программы. Но очень-очень, очень завлекательные. Люди кликуют кому-то за это капают деньги. Эти деньги идут в разработку еще более опасных и наркотических программ. Новая экономическая тенденция, это к называемой экономику внимания, она делает гораздо больше об увеличению человека в зависимость от сетей, от интернета, чем любые другие процессы. Как только сложились условия для извлечения денег и знал внимание, мы попали под очень сильное воздействие. За наши просмотры, за наши свободное время идут война, там конкуренция очень большая и объема этого рынка миллиарды, десятки миллиардов и сотни миллиардов долларов, он растет постоянный, растет большими темпами. Еще один из очень важных социологических эффектов, оценить, который мы сейчас не можем и оценить, у него только через 20 лет. Это к называемую полиризацию общества, которое увеличивается. У нас, если раньше у средненной россияне было немножко левым, немножко правым, немножко феминистый. То есть сейчас у нас феминистки сидят в своем моду. Котлея не общаются ни с кем другими, не принимают ни чью-повестку, ультер правые сидят своих там телеграмм каналах, где оно нет русских делших, которые начат с чернокожими, в отношении, они там тоже варятся в своем моду. Вот как клей ни с кем другим, ни взаимодействоваться. Точно так же там, за подписчики Путина, Навального, и вот алгоритм и персонажа ЦК Реатива очень сильно общество фалиризовали. Из-за этого люди не выходят на диалог, они могут только обливать друг друг друг. И объективно такие люди никогда друг другу другом не договорятся. Естественно, это все управляемо. Сосети далее на самом деле огромное плечо, потому что всегда было велособратная связь, можно восключаться там до конкретного человека, конкретного пола, возраст, финансовы положений, так далее. Безусловно это используется и в политике. Кембрессионалитика просто на самом деле ну, спалились. Ну, свидается. На самом деле этим занимаются все и много, и как бы любые компании, которые занимаются рекламой, давно этим занимаются. Америки было очень большое количество сканного во время выбора в трампы. На первый срок, потому что об одних и тех же проблемах, об одних и тех же инфоповдых в разных штатах, разным людям выдавался разный результат. Гугл естественно, сосылается на то, что это персонализация личной выдачи. Да, и условно, если, например, я, скажем, олебиральная женщина в углу оборта хорошо или плохо, я буду видеть исключительную информацию о том, что оборта это нормально. Если я, например, белая христианка, какая-нибудь ультер-христианка, то на тот же самый вопрос, я буду видеть исключительную информацию о том, что оборта – это грех и так далее. Вызникает, как бы вопрос. Во-первых, отсутствие критического мышления у людей, потому что невозможно взглянуть на проблему с двух сторон. И с этого у людей создаётся впечатление, что это и есть ответ на мой вопрос. Все видят, призрённый ответ, и за этого они постят подобный контент, и за этого подобные ответы поднимаются наверх. И ты не можешь объективно получить ответ на какой-то вопрос, потому что ты видишь только повестку, подготовлено лично для тебя. Вы приходите делать другой аккаунт, с него потреблять другой контент, делать, значит, в одном виде до мохозяйку, другом начать мужа кадезжины, и таким образом создавать какую-то повестку. Основной минус то, что общество не готова к цифровизации. Никто не понимает, как должен работать человек переносимый в виртуальный мир. Мы влюционировали живёт физическом мире, мы всё время общались с друг другом физическом мире, как физическом мире развлекались, работали. А сейчас всё это подменяется на вземодействие с экраном. И какие последствия здесь никто не знает. Potentialно это могло бы быть очень хорошо и ценно, от того, что человек использовал бы компьютер для того, чтобы стать лучше, стать у меня, но на практике пока что всех интересует, как лучше развлекаться. Посмотрите на нашу жизнь, мы никогда не остаемся с вами один на один с собой. Даже когда физически мы находимся в одиночестве, в помещении, мы всё равно всегда находимся с кем-то в контакте. Сейчас важно же поделиться всем, что ты чувствуешь, что ты видишь со всем миром, мы стиль мышления с вами меняем от индивидуализации, до как меня видит мир. Важнее становится непонимание своего внутреннего мира, как я себя чувствую, как правильный коррект интерпретировать. Она определенная трансляцию не всегда естественности того, что действительно с нами происходит. Я не здесь и сейчас, а я там. Если вы знаете, что вам действительно нужно немного снижить нагрузку на мозг, вам вашу тихотерапевт посоветовал этот свародиток, что стоит, пожалуйста, можете сделать свародиток, сможете на выпуску поехать, может быть ваш мозг как-то прочитится. Но вопрос, что вы сделаете после того, как он прочитится. У человека ведь нет другого пути, кроме как обратно поставить Facebook, обратно поставить в контакте иначе это начать снова смотреть видео из тиктока. Вот, она нужна какая-то альтернатива. Думаю, мы ее очень понимаем, куда мы хотим идти, от чего мы хотим освободиться. Налича аккаунта и общение через него лайки под постами, количество просмотров вдруг превратилась такой терминальной ценностью. Скадывает соелюзия, что если человека нет социальных сетях, то его нет нигде. Если это не нашло с вытражением интернете, этого нет вообще. Это, опять же, такая ложное представление о сущности человека. Нельзя просто взять и вычернуть его и социального пространства, если он не так ауток. Если мы находимся в виртуальном пространстве и принимаем это виртуальное пространство, как реальное, то есть считаем, что коммуникации, которые там происходят обучение, это такая же важная часть нашей жизни, как то, что происходит в реальном мире. В этом случае нужно задуматься более серьезно, чем о переезде в другую страну. Когда человек иммигрирует, куда они будут в Европу, в Америку, в Австралию, он очень серьезно относится к этому решению. А когда мы иммигрируем виртуальный мир, то почему-то никто об этом не задумывается, типа, ну да, подумаешь. Если 90% населения хотят потреблять контент, живочку для мозгов, хотят потреблять супер какие-то инвационные игры, и желательно, чтобы им за это платили, они бы ничего не делали, но, наверное, мир утопический, потому что он реализует потребности 90% населения. Но другие 10% скажут, что мы играируем, искатываемся абсолютно антиутопию. Это все вопрос на наших ценностях потребностей. Рудные времена рождают сильных людей. Сильные люди делают легкие времена. Легкие времена рождают слабых людей. И так по кругу. Представьте, что мы перестали работать, потому что у нас больше нет пространства для работы. Искусственный интеллект роботы, какая-то автоматизация, они устранили там абсолютное большинство профессий. И я могу допустить, что значительная часть мирового населения получает деньги или услуги, просто в рамках какой-то социальной поддержки. Но при этом реализует какую-то свою тягу, к развлечениям через компьютерные игры, виртуальные меры, и там гораздо лучше и интереснее, чем в хумурой Москве с плохой погодой. Понятно, что если подождать 25 лет, то человек сможет оказаться вот в эту иллюзию, погруженным уже навсегда. У нас нет никаких вообще планов и никаких сценаров, как это должно выглядеть. Из-за того, что необходимо ответить на целый ряд вопросу связанных с безопасностью, из геополитикой и так далее. Большую роль начинает играть корпорации, государство, у которых есть задача обеспечивать все общобезопасность. Как у нас очень любят общ option. Если у нас loudly splashing плохо,apor потреб является все tässä Entscheidung. Если у насreeсть страны то есть это Intelligence Grid, то есть сhovenку Massachusetts с духовными допустим, цензер, который был умным, образованным. А сегодня вот эту цензуру осуществляют низкооплачиваемые гестарбайтеры, цифровые гестарбайтеры, которые сидят где-нибудь в Мангладеше, а в Facebook их на немает в качестве мадераторов, чтобы они блокировали несотвестую щелиней партии пасты. Это на мой взгляд ситуация намного более стремная, потому что сегодня практически все коммуникации переведены на коммерческие оплачивыми платформы. Пользователь абсолютно бесправный, и в этом смысле я привез ту разумные государственные инициативы о том, чтобы делать какие-то альтернативы. Например, там какую-то гарантированную, всем гражданам электронную почту, гарантии, доступа в интернет, приположим вточек, нарушил какие-то правила правой дыра и правой дыра его отрубает. В этом смысле нужно понимать, что да, если мы идем по птицепривизации, то надо здесь и проваза считать, и это проблема сегодняшнего дня. По сути, мы переносяком уникации в цифру начудшую платформу. Мы переносим нашу собственную общественную личность. Когда человек, например, ведет не вник, а он записывает какие-то самые глубокие мысли, самые сокровенные, которые определяют вообще его самого. И более того, что в точки зрения некоторых ученых последителей, видение не вника, это необходимость часть личного развития, когда человек сам для себя ставит какие-то вопросы, как-то их собой обсуждает. Теперь задумаемся, а что, если этот дневник, человек ведет на цифровой платформе, которую ему кто-то предоставил. И в этом случае получается, что мои собственные мысли внутренние, они могут кем-то цензурироваться, то есть кто-то может сказать, что я думаю не корректная, и все, что я написал, даже для себя в не внике, может быть, использована против меня. Уже обсуждается концепции цифрового бессмертия, когда вся совокупность цифрового контента, который человек производит, то есть все, что я говорю сейчас, видео, которое пишется все сообщения, которые я отсылаю, все это кто-то где-то может сохранить. И поскольку стоимость хранения стоится все ниже, то кто-то это точно сохраняет, чем даже ни в одном экземпляре. И если потенциально с точки зрения науки и февософии есть возможность создать мою личность, так что будет вот этот виртуальное батар, говорить, так же, как говорю я, стоишь и интонации, с тем же с мыслом, с тем же пониманием, вот множество идей, которые есть у меня в голове, но вас созданный по косвенным признакам. Если это становится возможно, тогда получается, что какие-то компании, какие-то коммерческие организации, они вводяют, по сути, моей душой, моей личностью. В этом может быть, нет ничего экзистенциально страшного, но тут есть совершенно четкие, совершенно конкретные, но пока еще никем не поняты, юридические последствия, этические последствия, типа, а что они могут с этой моей душой делать? А могут ли они, например, удаляйте эти данные? Потому что если мы представим себе, что потенциально в информации, которую собрал Google, Yandex и Facebook, там есть я, вот это вот цифровая тень моя, то получается, это цифровая тень, может быть, он тоже имеет какие-то потенциальные права, дальше возникает вопрос. Хорошо, а если они в какой-то момент захотят использовать те знания, которые я загрузил, чтобы обучить там новую нейросеть всем цифровым знанием. Тут возникает очень много вопросов, и по сути мы говорим здесь о возможности перехода к совершенно новому качеству существования человечества, то есть то, что Вернацкий называл на аусферы, когда там все человечество объединяется в некие единые мозг, в единый организм, об этом говорили многие и философы и фопрологии, мы слицили в 20-ом веке, но мы совершенно не понимаем, по каким правилам это должно происходить. Здесь человечество стоит перед развилкой, с одной стороны, у нас дальнейшее движение вперед, с другой стороны у нас проигрыш искусному интеллекту, и на горизонте у нас искусственный интеллект, человечество уровня, который может нас потенциально превзойти и реализовать на практике сценарий в лучшем случае матрицы, в лучшем случае терминатор. Давайте по честному искусственный интеллект, это очень громкое слово, философия говорит о том, что интеллект сам по себе, он должен рождать новые взаимосвязи между там какими-то событиями, логическими заключениями, то есть в прождене новых связей современный искус интеллект этого не умеет, современный искусственный интеллект, это исключительный классификатор, который может сказать, ну условно говоря, да или нет, ну плюс добавить определенную вероятность, говорить о том, что какой-то искусственный интеллект сможет взять управление чем-то большим, чем с витафорами, но это скорее сценарий больше фантастический, чем близкий, креальным. Для меня критическая технология, технология, развития которой может корнельным образом по меня киопсистовым, вот искусственный интеллект, это критическая технология по всем параметрам, без ее активной разработки, национальной безопасности любого государства сейчас будет находиться к подугросвению. Все страны мира, которые имеют развитые вооруженные силы, начали гонкум, затем кто первый создаст искусственный интеллект, который можно будет использовать в военном деле для управления войсками, например. Человек принимает решение исходя из вопросов этики, исходя из вопросов того, что принято в этом обществе искусственный интеллект лишен того, что мы понимаем по человеческой нравственности, да, или того, что мы понимаем по детик. Замечательно есть исследования, когда у деток маленьких спрашивали, они сохранят жене Человеку или с та собачком и дети выбирали собачок. Мы будем этот искусственный интеллект учить на подходах, которые дети исповедают или взрослые исповедают. А как быть ситуация, то есть чем сейчас сталкивается производитель бесплатных автомобилей, в случае, если ДТП неизбежно кого сбивать. Беременную женщину, бабушку, детей, как мерить, как выбрать. Просто представьте себе, что вы приходите в автасалон и покупаете себе бесплатный автомобиль. И вас спрашивают, в случае ДТП вы хотите, чтобы автомобиль съезжал с дороги, врезался в столб и тогда погибните вы как водитель или вы хотите, чтобы он давил пешехода. И это вопрос, с которыми человеческо сталкиваться в самое оближайшее время. Те изменения, которые нам принесут подрывные технологии типа искусственного интеллекта, они могут нас завести в страшной дебре, поэтому на нас лежит ответственность на этом поколение лежит ответственность. Если мы говорим о революции искусственного интеллекта как технологии, я думаю, что это революция будет в двух случаях. Первое, это да, искусственный интеллект научится создавать собственные умозаключения. И второй вариант, если он научится обучаться безучитель, вот когда он сам сможет совершать какие-то действия и понимать, к чему это привело. Благодаря биотеху, благодаря сформочевнологиям, люди станут думать быстрее. Теоково есть доступ к инновациям будут принимать решения более эффективные. Теоково есть доступ к медицине будут жить дольше. Вот те люди, которые будут жить дольше, думать лучше. Принимать решения более эффективными, они сформируют то, что хороя не называют Хома Дэлз, новый вид человека. А все остальные они никогда не смогут добежать до них, просто потому что благодаря этой разнице пропасть будет усиливаться и усиливаться. Наверное, не все так страшно. Нам не нужно принимать ту или иную сторону. Мы не должны быть резко против технологий, потому что технологии прекрасно и могут привнести нам очень много позитивного. Мы можем освободить себя отрутины, мы можем быть числивия, мы можем благодаря алгоритмам общаться и общаться с теми, кто нам близок по духу, классальная количества возможностей, но негативная страна. Он нужно все время держать в уме. Как сделать так, чтобы те, кто эти технологии продвигают, они учитывали это обратную сторону. Я не знаю. Наверное, вот как раз такими разговорами. Наверное, как раз такого рода общественными дискуссиями выращиванием нашей зрелости и взрослости, и взрослением, и потом это станет нормным.