К теме искусственного интеллекта я обращаюсь далеко не в первый раз, уж очень это актуально и быстро меняется! Мода растет и расширяется, появились даже своего рода «фанаты ИИ», которые чуть ли не простой поход в сортир сверяют с мнением очередной «языковой модели». Но я хочу несколько охладить этот пыл….
Само понятие «интеллект» (по тегу найдете мои прошлые статьи, советую тоже почитать, если не читали) не является научным термином. Это — некая абстрактная философская категория, которую каждый понимает по-своему. Отсюда, кстати, как фанатичный восторг одних, так и категорическое неприятие других. А истина, как обычно, «где-то рядом».
Я уже не раз говорил, что сама идея создания экспертных систем, позволяющих среди огромного объема данных искать закономерности и выбирать самое главное, существовала еще в далекие советские времена как на Западе, так и в самом СССР. Просто никаких «нейросетей» тогда не было, методики и алгоритмы были совершенно иными, как и приемы программирования. Я тогда немного поработал с языком «Пролог», который и был предназначен для «искусственного интеллекта», хотя вместо этого термина чаще применяли именно сочетание «экспертные системы».
Меня данная тема не заинтересовала: я вообще не люблю работать с массивами данных, поэтому и модная (и доходная!) тогда сфера создания коммерческих баз данных прошла мимо меня. Ну и Бог с ней! Но важно то, что подобные системы были и тогда, помогая человеку не утонуть в огромных массивах разнородных данных.
Сейчас эти массивы стали на порядки больше и сложнее. Не знаю, применяется ли сейчас Пролог для решения аналогичных прошлому задач, но мир крайне ошибочно отождествляет понятия «нейросеть» и «интеллект». Для начала наука до сих пор точно не знает, как работает интеллект у человека и вообще что это такое (см. выше). Нейросети в нашем мозге действительно существуют и формируются при обучении каким-то навыкам, начиная от умения ходить и кончая формированием речи. Но можно ли считать это интеллектом? Я бы не сказал.
Обратите внимание, что интеллект человека все еще намного мощнее любого ИИ (хотя проигрывает в скорости), но при этом мозг потребляет всего несколько десятков ватт, а ИИ — в миллионы(!) раз больше! Конечно, это может быть аргументом за то, что интеллект находится вне мозга, но кроме того надо помнить, что экспертные системы были 40 лет назад и потребляли энергию вполне терпимо, но без всяких нейросетей!
И терзают меня смутные сомнения: а не является ли вся эта истерика с нейросетями просто механизмом соревнования в «крутости»? Помните как Рейган разорил СССР, придумав фейк с системой СОИ? Не было никаких «звездных войн», а СССР прогорел чисто экономически, поверив в эту сказку. А сейчас США и Китай тратят уйму денег, пытаясь переплюнуть друг друга по силе ИИ. При том, что является ли этот ИИ интеллектом — большой вопрос. Да и польза от него так ли велика?
Гугл собирается строить АЭС(!) для питания своего ИИ! Я даже не говорю про экологию (ведь вся эта энергия в конечном итоге переходит в тепло, нагревая Землю больше любого «углеродного следа»), но возьмите экономический аспект! Существующие модели ИИ крайне неэффективны! Такая энергоемкость может говорить только о порочности самой идеи. И это лишний довод в пользу того, что интеллект естественный никак с нейросетями не связан…
Да, человечеству нужны системы и алгоритмы, позволяющие систематизировать и использовать огромные объемы накапливаемых данных. Но! Что это за данные? И зачем они нужны?
Обратите внимание, что в основном накапливаются данные о поведении людей в интернете, их вкусах, интересах, привычках и т.д. А на основе этих данных людям банально подсовывают рекламу товаров, которые, якобы, должны их заинтересовать. Таких данных действительно уйма и никакой человек не в силах все это обработать и выдать результат. Тут-то и появляется ИИ. Но…
Но недавно я столкнулся с интересным фактом: если нейросети чего-то не знают, они «придумывают» ответ! Иначе говоря, порождают те самые фейки и ложные сведения, которые нынче стали бичом интернета. В одном из чатов мне привели ответ чатажпт (иначе не могу это назвать) на просьбу ответить на вопрос «а что такое …». Нейросеть ответ явно не знала, ибо тема была крайне редкой. И что? И «придумала» то, что ей показалось наиболее вероятным ответом! Но выдала это вранье за истину!
Я недаром ставлю везде кавычки: ИИ не думает, ИИ ищет в своей базе наиболее подходящий результат в соответствии с заложенными алгоритмами. Так же поступают и обычные поисковые системы, но в данном случае все они выдали результат абсолютно верный, т.е. ссылки на материалы, рассказывающие о предмете. Почему же оплошал ИИ?
Мне стало интересно и я задал тот же вопрос. Получил ДРУГОЙ ответ, но тоже не имеющий отношения к истине. Попросил источники. ИИ ответил, что источников нет, он просто предположил, что я хотел услышать именно это. И предложил найти источники точнее. Я согласился. Увы, но в этот раз ответом было примерно такое, что «источники — личное мнение нескольких людей (что уже неправда), а общепринятых понятий об этом нет». Вопрос: ну и что? Тебя просили ответить по имеющимся источникам, а не искать в википедии…
А любой поисковик, который в принципе не может ответить на подобный вопрос, просто выдает ссылки на материалы о данном объекте. И все выдает правильно!
К чему я это все пишу? К тому, чтобы предостеречь людей от увлечения т.н. «ИИ». Если тема вопроса популярна — вы, наверно, получите ответ в виде «выжимки», хотя ее достоверность тоже не гарантирована. Но если тема экзотическая — не пользуйтесь ИИ! Он вас просто обманет, а вы и знать не будете!
На самом деле, наверно, так и должно быть: задача нейросетей «перекапывать» гору информации и находить главное. А если информации «с гулькин нос», то это не задача для ИИ. Вопрос в другом: почему в этом случае ИИ не обращается к поисковым системам или честно не отвечает «я не знаю»? Это, конечно, вопрос не к ИИ, а к его создателям. Но это серьезное предупреждение для рядовых поклонников нейросетей. Недаром я держусь от них в стороне, своего интеллекта хватает…
P.S. А вопрос-то был о моей религии — веритулизме. 🙂 Сколько фигни я про него прочитал в ответе жпт… 🙂 Будьте осторожны! И помните, что все эти «ИИ» — это всего лишь сложные алгоритмы, созданные настоящим интеллектом — человеческим, со всеми свойственными ему ошибками. И старайтесь лучше развивать свой, не полагаясь на искусственный…
«Но выдала это вранье за истину!»
Ничего она не выдавала! Нейросеть не имеет убеждений и значит не может настаивать на истинности своих ответов. Более того: «ChatGPT может допускать ошибки. Рекомендуем проверять важную информацию.»
Кстати, несколько дней назад я «попросил» ChatGPT ответить мне на один вопрос: найти песню по некоторым признакам (подробности опущу). Нейросеть выдала 2 варианта и «попросила» (конечно же не сама нейросеть попросила, а разработчики) выбрать лучший. Я ничего не ответил, потому что оба варианта были неправильными, и я это сразу понял.
Ну, никто и не говорит о ее убеждениях, я говорю о том, что если сеть не знает ответ, она не должна выдавать «абы что». Она должна так и писать: «я не знаю», «информация не найдена» или нечто вроде этого. Не говоря о том, что в данном случае любой поисковый запрос выдавал кучу правильных ссылок, по материалам которых сеть могла бы ответить на вопрос.
Вместо всего этого она выдала полную ахинею, никак не предупредив о недостоверности. Я-то вообще не пользуюсь ИИ, но есть люди, которые ВСЕ ищут там и ВСЕ спрашивают там. И не пытаются ничего проверять…
Дорогой автор,
Не согласен с некоторыми выводами. Как человек который имеет непосредственное отношение к ИИ, могу вам сказать что «придумывание» это часть ИИ (как бы forecasting ответ). Попробуйте сказать ему «брат, ты не прав» и ИИ постарается найти и предсказать другой ответ. Если это тот же самый ответ, просто скажите что не надо повторять тоже самое. Пока публике дают несовершенную версию. Если бы многие знали бы на каком уровне сейчас… Просто страшно станет…
А каким ИИ и как именно Вы занимаетесь?
Что касается общения с ним, то да, я и написал, что пробовал по-разному, но я все же не понимаю, почему человек (честный!) может прямо сказать «я не знаю», а ИИ выглядит лгуном и жуликом, болтая черт знает что, когда ответ есть. Это неправильно…
А насчет того, что есть на самом деле… Ну, я не сомневаюсь, что в публичное пространство попадают самые слабые модели, а у «погонов» есть нечто иное… Иначе бы не было столько разговоров про нехватку энергии. Но я писал в блоге про ИИ вообще не раз: я не считаю эти системы интеллектом, а кроме того их огромное энергопотребление говорит о крайне низкой эффективности, а значит, неправильном подходе в принципе…
Я имею дело с NLP. Насчет того что ИИ должен быть «честным» — даже чатджипт пишет и предупреждает что они могут ошибаться. Это же не робот а модель, там нет черно-белого. На математическую задачу 3 курса мехмата она даст четкий ответ. Если же спрашивать допустим про здоровье и болезнь не все так однозначно — есть народная медицина, официальная, всякие диетологи и куча абсолютной чуши типа колдунов на то как лечить. Так что она дает информацию исходя из того что есть. Если же проанализировать человеческое мышление и как оно работает, каждый дать разный ответ про шедевр например — одному водка в красивой упаковке, для другого- квадрат Малевича. И каждый воспринимает правильный ответ по своему. Так что ИИ это достаточно сильный интеллект- она подстроится под вас. И поверьте, в психологии много приемов воздействия на умы и поворачивания их в нужном направлении. И для этого не надо все 100% людей- достаточно только нужную массу. Именно для этого и хотят использовать ( и используют),
То есть Вы считаете, что основная цель ИИ — воздействие на массы? ну, мне кажется. воздействие и раньше прекрасно происходило… По моим данным основная задача ИИ — это обработка и анализ поведения людей, их мнений и т.п. на предмет выявления лояльных и нелояльных граждан… И это не тот ИИ, что доступен во всяких чатах…
А насчет «честности», то в данном случае речь шла о вполне конкретном вопросе, по которому в сети были конкретные доступные материалы. А на выходе вместо этого была полная ахинея, причем ничего общего не имеющая с реальностью…
Основная цель ИИ это нахождение оптимальных и быстрых решений исходя из террабайта в степение террабайта потока информации. Это как скачок из времен езды на лошадках к полетам машин за один час. Утрирую конечно но надеюсь понимаете что имею ввиду. Само собой антропология, бихевиоризм это только лишь одна из сторон. Человечество готовится к тому времени когда будет слишком огромное количество информации и мы должны найти правильные методики для филтрации. Один маленький совет как надо общаться с ИИ- спросите этот вопрос опять сейчас, посмотрите на ответ, поправьте жали не согласны. Вы можете удивится ответам после 7-10 поправок. Лучше конечно пользоваться платным кстати, тогда банк информации будет уже отфильтрованным. Грубо говоря, модель ответа будет лучше.
Ну, во-первых, я не собираюсь платить за то, что я же еще и буду его обучать. 🙂 Пусть мне платят за это. Да и вообще мне нет резона платить за то, без чего я могу обойтись.
Во-вторых, огромное количество имеющейся информации никак не означает, что эта информация нужна и ее надо обрабатывать. Например, собирается уйма информации о поведении людей в интернете, о транзакциях с карт в магазинах и т.д. А на кой черт это все нужно? Для рекламы? Вот пусть кому нужно — тот и платит за обработку всего этого, строит АЭС, платит за серверы и т.д. Хотя пользы реальной для Человечества в этой информации нет никакой…
А Вы читали мои произведения литературные? В т.ч. и на эту тему?
Ну так расчет на оплаты от людей которые, скажем так, не хотят сами искать и трудится и ищут легкий и быстрый ответ. Вам как вы сами сказали, это не надо — мне тоже. И теперь можно понять каких детей это воспитывает- тех кто не может критически думать, не хотят что-то создавать ( в общей массе). Именно на эту массу все и работает. Простая логика- если это хотят некоторые люди то они будут платить. 99% индусов сейчас стали такими «программистами». Они не могут быть в офисе но на удаленке они используют ИИ. Поэтому лет через 10 среднего звена не будет- ИИ будет делать почти все программирование.
По поводу ваших литературных произведений пока не знаю На русском я давно не читаю но постараюсь ознакомится.
На русском не читаете? А на каком? Вы где живете?
Насчет индусов — программирование там было развито задолго до появления ИИ. Бангалор считался «индийской силиконовой долиной» еще лет 20 назад, если не больше. Мне сложно судить об уровне тамошних программистов (не сталкивался), но по объему продукции они опережают многие страны. И насколько я знаю, в тех же США основной контингент программистов — это индусы и русские, китайцев меньше. А местных и подавно…
Но вообще для чего нужен ИИ как раз в сегодняшнем интервью тоже речь идет…
Работаю на той стороне океана 🙂
Да был и в Бангалоре и 20 лет тому и 10 , и в этом году. Растет конечно. Но сказать что они умеют допустим писать системные или сервлеты нельзя. Ну по крайней мере, не встречал. А встречал я очень много. Китайцы так навострились писать что многие поработав на Западе, переманиваются обратно Китаем. Китайские сервера такого масштаба что даже американцы пока позади и не успевают. Не зря же сейчас Трамп пытается хотя бы приблизится ( не думаю что пока это возможно). Посмотрю интервью…
Судить о деталях не могу, ни про Индию, ни про Китай. Мне кажется, китайцы просто очень настойчивые, работящие и т.д. Но индийцы сообразительнее, зато ленивее. Не знаю, прав ли я, это просто впечатление общее…