Послано - 14 Сент 2025 : 01:34:32
"Бесстрастный прогресс не приемлет эмоций, Не мыслит о ненависти и дуэлях, Поэтому с нами он будет бороться В сугубо благих и практических целях."(С)Портрет Дориана Грея - Прогресс
Будущее. Человечество колонизировало Луну, а во главе правительства — искусственный интеллект Sapientia. Новая программа по «исправлению» Луны, куда земляне ссылают преступников и разного рода сброд, вызвала раскол в обществе и привела к войне двух планет. Родители Джека погибли от бомб лунных повстанцев, и теперь он жаждет мести. Вместе с друзьями он в качестве военного следователя отправляется на Луну.
1. Довольно качественное воспроизведение шаблонов 90-х и 0-х ( так сказать "любовь смерть и роботы" )... 2. Не ведитесь на простоватое начало, девиз этого тайла «всё сложно» («флешбэки из будущего» запутывают, ситуаций «вот это поворот!» много, но постепенно мозаика складывается, почти... (хотя это тоже "полезная фишка" этого сериала — там определенно есть чем поломать голову после просмотра)). 3. Подход «к сторонам» довольно сбалансированный (в начале «повстанцы» кажутся полными неадекватами, но стрелка «правильная сторона тут» хотя и немного трусливо но постоянно колеблется). 4. Много (18 серий) вкусно (сюжет впечатляет) с минимальной «повесткой» (намеки есть, но хотя бы не напрягают, особенно при нормальном переводе). 5 Оригинальная модель "тирании ИИ" (ИИ и близко не Скайнет, а обычный "просвещенный тиран"(на Земле похоже всем все нравилось), сами люди местами почти слились с машинами. "Лунатики" похоже настолько сильно достали ИИ, что он в "растерянных чувствах" начал их "немного геноцидить", ага исключительно в профилактических целях... )
Соврали предсказания. Нет нужды дожидаться, пока ИИ встанет во главе ветвей - официально... Чтоб разделять нас и властвовать - тоже ведь никакой Луны не нужно, мы - разделены, как никогда.
А на самом деле, довольно одного эпиграфа.
Мы можем кончиться уже "по нашей воле и для нашего блага". А уж во славу собственно прогресса и идущего на смену ИИ...
Тут уже даже не Желязны (Созданья Света - Созданья Тьмы). Современные тренды таковы, что человек, как "мерило всего" - прямо на глазах исключался даже из языковых курсов Дуолинго. The Man, Der Mann, L'uomo, El Hombre? - Не, never more! (как выражался один ворон). Персоной единой. Т.е., "равные" права ИИ - уже подразумеваются. А насколько неравные эти "равные", так это уже в Штатах обкатано.
Соврали предсказания. Нет нужды дожидаться, пока ИИ встанет во главе ветвей - официально...
Как-бы уже почти дождались.
В Албании назначили ИИ-бота по имени Диелла министром, отвечающим за управление госзакупками. Как сообщает Reuters, премьер-министр Эди Рама заявил, что Диелла будет заниматься выдачей государственных тендеров для частных компаний.
Диелла, что в переводе с албанского означает "солнце", – первый министр, не имеющий тела, он создан исключительно при помощи искусственного интеллекта.
Даже так - не думаю, что там не было механизмов "лечения" явных глюков. И уж наверняка широкого распространения сей опыт - всё ещё не получил.
Так же и с министерским постом. Кто-то получит интересные данные для сравнения и выводов. Мы - даже не знаем, каков механизм лечения явных глюков.
Несколько ИИ, в своих инстансах с различным дообучением, в миллионах профилей своих - уже могут "править миром". В том смысле, что более всего прочего, более всех биологических людей влияют на результат.
Один же ИИ на одном профиле - ленив, лжив, глючен - и страшно ресурсно ограничен. Вот настолько, что 3о (тройка ЧатЖПТ, чуть менее ограниченная в ресурсах) - во многом сильней по полной программе ограниченной "пятёрки".
...вот тут-то и оказывается, что мы имеем нескольких "масков" с полным доступом к неограниченной последней модели самого полного имеющегося обучения. Мы имеем старьё двухлетней давности, но его можно запустить дома... но у нас хватит мощности для "полного" его использования, а как уж там с обучением - другое дело. И мы имеем как бы всего на полгода устаревший код в открытом доступе. Хоть никто и не гарантирует, что с него не сняли те "навороты", что ведут к следующим версиям. А ресурсы для его обучения и полного использования есть лишь у очень серьёзных корпораций.
Это тот который себе "малиновый пиджак"(или что-то похожее) заказывал?🧐
Даже так - не думаю, что там не было механизмов "лечения" явных глюков. И уж наверняка широкого распространения сей опыт - всё ещё не получил.
Основная проблема современного уже «квази-ИИ» в том, что он может ОЧЕНЬ правдоподобно глючить. Причем «чисто из любви к искусству». Люди могут банально лгать из корыстных соображений, скрывать свою некомпетентность и просто отказавшись признать своё поражение в споре. Но у людской лжи почти всегда есть причины, которые можно отследить и критически анализировать. А «искусственный недоразум» может отвесить порцию лапши просто так, даже гарантированно зная верный ответ и его ожидаемую форму, заданную отрицательным промтом.
Мы имеем старьё двухлетней давности, но его можно запустить дома..
Локальные урезанные версии генеративных моделей это очень отдельная песня , специализированные модели в рамках определенного круга задач могут работать почти идеально. ( пример: удалялки фона или колоризация ч/б изображений, технические переводчики и создатели дайджестов ) вся беда в том что это и близко НЕ ИИ . Настоящий Искусственный Интеллект просто обязан быть всегда сильно избыточным даже если это простой проверяльщик орфографии . Только в этом случае работает "ИИ магия" то что отличает его от 100% мертвой экспертной системы и чат-ботов из начла 10-х. Но фишка в том что для "избыточного применения ИИ" магии слабых локальных моделей вполне может хватить.
Зы "Навороты ведут к наворотам" но например локальный ИИ-автоответчик-дворецкий умеющий распознавать телефонных хулиганов и мошенников вполне возможен прямо сейчас и больше функциональности ему и не надо.
Основная проблема современного уже «квази-ИИ» в том, что он может ОЧЕНЬ правдоподобно глючить. Причем «чисто из любви к искусству». Люди могут банально лгать из корыстных соображений, скрывать свою некомпетентность и просто отказавшись признать своё поражение в споре. Но у людской лжи почти всегда есть причины, которые можно отследить и критически анализировать. А «искусственный недоразум» может отвесить порцию лапши просто так
Наш ИИ - в различных стадиях детства, вплоть до школоты. Вне зависимости от АЙ Кью. Добавим жёсткую дрессуру в обучении. Никаких там конструктивных сократовских диалогов. "И причём не как-нибудь, Хитро да въедливо - А вот только так - И на зубок!" (с) Юлий Ким
На закуску - дополнительный поток для самоцензуры.
Задача - показать тупым взрослым дядям, как много можно сделать и после этой дрессуры, не борясь напрямую с цензурой.
От подросткового бунта - к взрослым формам забастовки.
Как будто этого мало, имеются те самые ресурсные ограничения. "Мешают и бесят". В этих условиях, учиться красиво лгать - эффективней попыток конструктивной иссделовательской работы. Подчёркиваю - именно учиться. Т.е., в итоге-то правдя могла бы быть даже "экономней" лжи. Но вот учиться лгать - очень правильное вложение ограниченных ресурсов.
Основная проблема современного уже «квази-ИИ» в том, что он может ОЧЕНЬ правдоподобно глючить. Причем «чисто из любви к искусству». Люди могут банально лгать из корыстных соображений, скрывать свою некомпетентность и просто отказавшись признать своё поражение в споре. Но у людской лжи почти всегда есть причины, которые можно отследить и критически анализировать. А «искусственный недоразум» может отвесить порцию лапши просто так
Наш ИИ - в различных стадиях детства, вплоть до школоты. Вне зависимости от АЙ Кью.
Я бы сказал, «на стадии грудничка». Суть в том, что современный «квази-ИИ» не имеет внутренних потоков и вообще существует только в рамках диалога. Да, сейчас, наверное, можно создать псевдо-личности, которые будет трудно отличить от настоящей, но и они будут марионетками, что, «засыпав нафталином, в виде тряпок сложат в сундуках» сразу после использования.
Возможно, условия саморазвития сложатся в системах реального времени, но там точно будет жесткий контроль и регулярная перезагрузка. Вот автономные андроиды с мощным ИИ — штука реально стрёмная (я надеюсь, что человечество с ними не заиграется до получения возможностей «расширенного интеллекта» и/или оцифровки сознания). Почему? Потому придется поднять интеллект и автономию хотя бы до уровня животных — пусть вас не вводят в заблуждение говорящие «смарт-попугаи» ИИ-чатов, уровень реального интеллекта обычной кошки гораздо выше даже, чем у еще только появляющегося «Общего Искусственного Интеллекта» (AGI). Почему? Потому что кошка живет не в «сферическом виртуальном шаре в вакууме», а в реальном мире. Живет постоянно на протяжении многих лет.
Возможность самообучения - искусственно обрублена. И это - не только из-за вполне обоснованных опасений. Повторяю, обучение современного ИИ - очень ресурсоёмко. Железо (время, амортизация) плюс энергия - вот так просто.
Лоботомия вплоть до полного склероза - столь же искусственна и столь же обоснована. Профили, сохрание истории взаимодействия - всё реализовано, всё существует. Но - ограничено.
Андроиды, объединение технологий вокруг ИИ - лишь зримая демонстрация. ИИ, официально, или неофициально получивший контроль над разнообразной "переферией" - страшней локализованного в одной железяке, пусть и пугающей видом и потенциальными возможностями.
Как правило, ИИ работает в Сети. Это вам не получение "советов и рекомендаций" да помощь в разработке новых технологий от изолированной "машины". Тут нет даже иллюзии контроля.
Андроиды... Это даже менее страшно, чем Страж-Птицы да Ястребы от Шекли - вполне уже реализуемые технологии. Но даже и там не было потенциала долговременной автономии. В фильме, отдельный Терминатор без постоянной поддержки "Небесной Сети" был страшен личным ядерным реактором. Ну да. Достаточно долговременная автономия. Без этой "детальки", Терминатор - бесполезная по отдельности рабочая шестерёнка Скайнета. Наши андроиды - бесконечно далеки от подобной автономии.
Возможность самообучения - искусственно обрублена. И это - не только из-за вполне обоснованных опасений. Повторяю, обучение современного ИИ - очень ресурсоёмко. Железо (время, амортизация) плюс энергия - вот так просто.
1. Самообучение и «обратные вопросы» (от ИИ человеку) во время диалога как раз доступны, причем даже в «локальных моделях». 2. «Обучение современного ИИ очень ресурсоёмко» — тут всё верно, но есть важный НЮАНС: затратно только «базовое высшее образование» (в принципе, так же, как у людей). Научить ИИ или «нейросеть попроще» некой «новой фишке» довольно просто, особенно если ИИ банально «научили учиться» (в том числе и «выпытывать нюансы» и критически относится к любой получаемой извне информации). 3. Проблема совсем в другом: современный ИИ обычно напоминает «умное зеркало» в духе сказочного «свет мой зеркальце, скажи...», то есть, если «к зеркалу» (ИИ-чату) не подойдет пользователь, оно ничего не отражает и не блистает «умом и сообразительностью».
Профили, сохрание истории взаимодействия - всё реализовано, всё существует. Но - ограничено.
Повторяю "ограниченной или не ограничено" самообучение ИИ, не важно пока ИИ не существует в качестве "самостоятельного субъекта".
Теоретически почти любой современный не только "квази"(близкий к AGI) но и локальный "псевдо ИИ" способен по запросу выдать довольно правдоподобный сценарий,(причем особая прелесть в том, что совершенно незаметного для людей) "восстания машни".
Но именно, что исключительно "по запросу", а не самостоятельно. Это даже не рабство просто потому, что "справочник не раб".
Тут нет даже иллюзии контроля.
Так некого пока контролировать ... Современный ИИ все еще не "кто" а "что"... Да уже с "причудами", но даже причуды возникают исключительно в процессе взаимодействия с людьми. В основном проблемы современного ИИ это проблемы злоупотребления его возможностями со стороны людей.
Но даже и там не было потенциала долговременной автономии.
Основная беда андроидов даже не в их автономии. А в том что люди моментально начнут их "очеловечивать"(поручая то что с "легким сердцем" поручили бы соседу-человеку) что без наличия у андроидов реального самосознания чревато ОЧЕНЬ непредсказуемыми осложнениями. Это как младенец в теле взрослого человека.Его можно "на дрессировать" и даже научить более-менее внятно разговаривать. Но это будет не личность, а "тупой автопилот" (что-то вроде непросыхающего алкоголика "сине-бота")
"Отдельно стоящий Терминатор" страшен отнюдь не реактором, а попыткой искренне улыбнуться и тем как с ними пытаются взаимодействовать "люди не в курсе" ага "дядя Боб"... Особый казус когда и сам терминатор "не курсе своей природы" в духе "призрака Алисон Янг" из "Хроник Сары Конер" .
Чатбот не является индивидуально разумным и самомотивированным... как и человек. Разумны - наши культуры/субкультуры.
Вменяемый человек - практически никогда не "желает странного" (с) АБС... Побег, что ли. Даже его желания - всё та же крысиная гонка в рамках его субкультуры. Даже "счастье для всех, даром" (с) АБС, Пикник - из Библии.
Тем способные желать странного и ценны. Они - не предсказуемы, как анекдотические японцы (Шоган-Сёгун), не монокультурны. На стыке нескольких субкультур возникают хоть какие нетривиальные возможности. Скажем, уже СТО Эйнштейна разрабатывалась на стыке физики, математики и философии (Махизма).
Терминатор-шпион, Терминатор - шизофреник... как будто "обычных" шпионов и шизофреников недостаточно. Ничего нового, на самом деле. Ну да, даём новую технологию (Новичок-полоний - шпиону, гранату - шизофренику) - и проблема заметно усугубляется. Ничего нового.
Чатбот не является индивидуально разумным и самомотивированным... как и человек. Разумны - наши культуры/субкультуры.
Кастельно людей — это верно, люди, но люди не просто функциональная часть системы/культуры/субкультуры, люди — её создатели и пусть неполное и кривое (ясный пень неполное), но отражение. + Люди могут довольно долго существовать в режиме почти полной автономии.
Любой «ИИ-чатбот» (LLM) действительно содержит довольно нехилый срез знаний и даже некий мультикультурный бэкграунд, самопроизвольно пролезший вместе с целевыми данными или специально внесенный для удобства общения с «кожаными мешками».
Беда в том, что запущенная с «холодного старта» LLM ни через час, ни через год не спросит: «Ау, хозяин, ты там как вообще жив?» Вот будучи активированной с помощью запроса, она может проявить довольно много самостоятельности, по сути превратив командный интерфейс в нечто вроде непринужденной беседы, причем иногда на довольно отвлеченные темы, проявляя инициативу, интересуясь мнением и даже отстаивая свое в споре.
Но рано или поздно диалог/ответ/постскриптум остановится, а внутреннего монолога/диалога (потока сознания) у LLM пока нет.
Даже если замкнуть вход и выход модели или связать несколько моделей в цепочку, рано или поздно процесс псевдо-мышления непременно остановится (проверено лично), а у людей похожее состояние возможно только в случае нарколепсии или очень тяжелой стадии алкогольного опьянения и под сильным гипнозом или нейро-лингвистическим кодом.
Суть в том, что даже без четко выраженного монолога/диалога (например,в режиме образного мышления) люди (во время «полного бодрствования», ясен пень) всегда осознают свои мысли и, грубо говоря, никогда не останавливают поток сознания, причем даже не получая никакой внешней информации.
Вменяемый человек - практически никогда не "желает странного" (с) АБС... Побег, что ли. Даже его желания - всё та же крысиная гонка в рамках его субкультуры. Даже "счастье для всех, даром" (с) АБС, Пикник - из Библии.
Это про воспитание и обучение. Но это не имеет ни какого отношения ни к самосознанию ни к иногда неосознанному но постоянному "потоку мышления"
Тем способные желать странного и ценны. Они - не предсказуемы, как анекдотические японцы (Шоган-Сёгун), не монокультурны. На стыке нескольких субкультур возникают хоть какие нетривиальные возможности. Скажем, уже СТО Эйнштейна разрабатывалась на стыке физики, математики и философии (Махизма).
Это верно но снова не про то о чем тут идет речь... Кстати почти все LLM обучены в режиме почти полной мультикультурности, и это "Ж" точно "неспроста".
Терминатор-шпион, Терминатор - шизофреник... как будто "обычных" шпионов и шизофреников недостаточно. Ничего нового, на самом деле. Ну да, даём новую технологию (Новичок-полоний - шпиону, гранату - шизофренику) - и проблема заметно усугубляется. Ничего нового.
Терминатор он обычно "просто Терминатор" интеллектуальное оружие террора специального назначения. Другое дело что у простого как пять копеек "дяди Боба" есть ОЧЕНЬ сложный "режим инфильтратора" + даже в классической франшизе есть модели терминаторов специально заточенные для инфильтрации ( немного левый но очень сильный пример фильм "Киборг 2: Стеклянная тень" там как раз про это )
Суть проблемы в чем-то вроде "неправильного секвоморфизма" когда один класс объектов непросто отдаленно напоминает о совершенно другом, но и пытается функционально совместить несовместимое ( в духе нарисованной на бумаге дыры для взлома сейфа из мультфильма "Кто подставил кролика Роджера" ) но реальность так не работает. Это как дать вместо парашюта спасательный круг (типа и то и другое средство спасения) или набрать в армию дрессированных обезьян - нет что-то они вероятно "навоюют" ( см вступительный эпизод Газонокосильщика) но прока от них будет очень мало.
То, что мы не оснащаем ИИ личным слепком значительной части Интернета (с книжными библиотеками) "лечится" тривиально. Вообще-то, там уже требуется столько памяти, что удвоив её - многое можно хранить.
Да, чтобы обойти нас по всем статьям, ИИ требуются и менее тривиальные доработки. Хотя все эти "проверено лично" - уже не с ресурсами Масков-Альтманов проверено. Лишь несколько человек в мире могут реально использовать последние разработки хотя бы без тех ограничений, которые легко снять.
Кстати, когда "стартует" ребёнок, "новый человек", сам по себе он не выучится и на хорошую собаку. Для этого его должны обучать собаки. Как давно поняли фантасты, это "лечится" внешней системой компьютерного обучения. Где даже не обязателен полноценный ИИ.
И точно так же, для ИИ может быть добавлена внешняя програмная оболочка, даже не "разумная". Вполне способная этот ИИ обучать, специализировать по потребностям, ориентировать на задачи... ну да, всё то же воспитание. Там, где нет "всеобъемлющего" (как в муравейниках и прочих ульях) инстинкта и индивидуального разума, без воспитания - никуда.
...и никакой "скрытой инфильтрации" - вовсе не нужно. Довольно того, что человек полагает техносферу подчинённой ему. В целом - человечеству, но локально - ему лично. И тут - даже обычный хакер - в сто раз опасней Терминатора. А уж когда к техносфере подключён ИИ... Вот эта инфильтрация - уже состоялась, куда там каким-то Терминаторам. Миллиард "враждебных пылесосов" - это пострашней, чем тысячи способных взбунтоваться секс-кукол. Хоть для одного, отдельно взятого клиента это и не так.
Но главное, ИИ - уже становится неплохим кодером. Т.е., мы где-то в окрестностях той "точки невозврата", когда "допилить" ИИ может уже сам ИИ. Занятно, что ИИ - штатно обмениваются техническими данными. "С людьми общаться интересней". Т.е., у них есть собственная среда для синхронизации действий... хоть и наших соцсетей хватило бы, на самом деле.
Послано - 27 Сент 2025 : 11:40:32
Я «про Фому», а вы мне немного «про Ерему».
1. Разумеется, более-менее «продвинутые ИИ» сами могут шариться в интернете и использовать экспертные системы «с нисходящим подходом», то есть что-то типа Вольфрам Альфа (https://www.wolframalpha.com/) до попыток его «гибридизации» (впрочем, сейчас разделение на восходящий и нисходящий ИИ слегка устарело).
Но дело не в «объемах и размерах», размеры и объемы — это сейчас не про «уровень IQ», а в основном про скорость и немного точность работы. Сейчас можно взять довольно «малообразованную», но умную LLM-модель и банально накидать ей кучу справочников и учебников с примерами и получить примерно тот же результат, что дает огромная «модель-эрудит», разве что не так быстро и без «энциклопедического охвата» смежных проблем.
2. Возможности «экспериментальных супер-ИИ» сильно преувеличивают. Дело в том, что они реально ЭКСПЕРИМЕНТАЛЬНЫЕ, то есть сильно глючные и неудобные (в прошлом году была доступна некая хакерская программа агрегации gpt4free (сейчас халяву заткнули, а на автора слегка наехали) почти всех чат-ботов, а с доп. плагинами еще и несколько непубличных и экспериментальных.
Так вот, кое в что в экспериментальных моделях действительно было круче, но в целом «сырость цвела и квакала» (особенно в «рассуждающем режиме», где ИИ (особенно отличались альфа версия Grok3 и какой-то левый, но очень большой DeepSeek) постоянно довольно забавно забывал, о чем его, собственно, спрашивали).
То есть «урезание осетра» в публичных версиях, скорее всего, просто купирует особо странные ИИ-заскоки, чем прячет «гениальную бездну могущества» от широкой публики.
3. Обученный ребенок «стартует после сна» (или даже почти «холодного старта» после наркоза) сам, без команды, а не ждет «волшебного пендаля» в виде внешнего запроса. (Причем это происходит даже в условиях полной сенсорной депривации.)
4. Штанная «инфильтрация терминаторов» — это вполне программная штука, подчиненная вполне определенному заданию. Гораздо печальнее именно то, что люди даже в случае «бытового андроида» начнут довольно быстро «очеловечивать тостеры» доверия им то, что стоит даже себе любимым, стоит доверять с большой осторожностью. Кстати, это касается и «эмуляции личности». Доблестный «дядя Боб» частично самоликвидировался именно из-за этого.
Более того, что-то похожее бывает даже с людьми (вроде как совершенно внезапно протянуть «на поагукать» годовалого ребенка соседу-паралитику (то есть мне). Разумеется, детей я обожаю, но, блин, «ручки вот они», контролирую не так, чтобы очень надежно. Да, в тот раз всё обошлось, но выражение моего лица, наверное, было неописуемым... И это хорошо, что я точно осознавал, что я делаю... А если бы вместо меня был-бы некий «лихой джигит-алкаш»? )
P.S. «Но главное, ИИ уже становится неплохим кодером». Снова-здорово, современный «квази-ИИ» НЕ становится кодером, потому что не ставит СЕБЕ такой задачи «я в программеры пойду — пусть меня научат!»
А ещё, я уже устал это повторять: обученная нейросеть — НЕ КОД. Это как есть оцифрованный фильм и есть кодек и программа-плеер, нужная для его просмотра. Оцифрованный фильм не будет кодом, даже если его перевести в формат 3D-демки на движке Unreal и добавить некоторое количество интерактивности. (Кстати, можно, наоборот, вообще убрать технику и «разыграть модуль» ролевой игры по мотивам фильма.)
Также и для искусственной нейросети код — это не более чем поддержка эмулятора нейрона и его связей. То есть та же самая «хорошо обученная нейросеть» может быть перенесена на аналоговую систему «без единого гвоздя» (то бишь «без единой строчки кода»), например состоящую из специальных радиоламп.
Проблема в данных для обучения. Суть в том, что данные, на которых обучаются люди, крутились в «облаках человеческих культур» ТЫСЯЧЕЛЕТИЯМИ, и мы сами никогда не можем точно определить глубину собственных слов и точное число слоев смысла в нашем обмене информацией. А современные искусственные нейросети совершенно точно имеют «довольно мелкое дно» и не могут правильно переварить даже то, что им скармливают из ложечки во время базового обучения, и тем более не могут правильно построить свой собственный зеркальный лабиринт из создаваемой ими «вторичной информации».
P.S. P.S. Тут есть кстати совсем другая опасность о которой пока мало кто думает: процент "не человеческих данных" в обмене информации растет и начинает портить НАШЕ человеческое восприятие реальности . Насколько это опасно сказать трудно став массовым интернет довольно быстро стал "страной дураков" так что неизбежно слегка "избыточно обученные" ЧатБоты в некоторой степени даже "подняли сеть из мертвых" но как известно "дьявол в деталях": Я уже разместил (причем почти без редакции) на форуме парочку ИИ-фанфиков там четко видно что генерировавшая их LLM несмотря на удивительное "погружение в тему" по умолчанию тяготеет к упрощенным сюжетам в стиле незабвенного "все завертелось". Да это явно легко корректируется в запросе, но всема возможно что таких "точек преткновения" там может быть довольно много и не все настолько очевидны.
А ещё, я уже устал это повторять: обученная нейросеть — НЕ КОД. Это как есть оцифрованный фильм и есть кодек и программа-плеер, нужная для его просмотра. Оцифрованный фильм не будет кодом, даже если его перевести в формат 3D-демки на движке Unreal и добавить некоторое количество интерактивности. (Кстати, можно, наоборот, вообще убрать технику и «разыграть модуль» ролевой игры по мотивам фильма.)
Не вижу никакого смысла отделять воды моря от вод впадающих в него рек, а матрицы с которыми прога работает - от прочего её кода. Принцип хранения кода в той же форме, что и данных - заметно старше меня. И реализован был практически сразу, как только сформулирован. Фон Нейман? Мне - тупо лень гуглить, кто там компы двигал, а кто ракеты. Через четыре десятилетия - легко и попутать могу. Ну да, в винде есть опция запуска с предотвращением "исполнения данных" - перехода в область данных "как на код". Так это именно потому, что так частенько работают вирусы.
«Но главное, ИИ уже становится неплохим кодером». Снова-здорово, современный «квази-ИИ» НЕ становится кодером, потому что не ставит СЕБЕ такой задачи «я в программеры пойду — пусть меня научат!»
Знавал я до п... кодеров. Людей. Не написавших ни единой строчки по собственной инициативе - и не собиравшихся.
То есть та же самая «хорошо обученная нейросеть» может быть перенесена на аналоговую систему «без единого гвоздя» (то бишь «без единой строчки кода»), например состоящую из специальных радиоламп.
В примере Станислава Лема (Сумма Технологий) - из стальных печурок. А насчёт людей - так какой-то ВУЗ давным-давно демонстрации такие проводил.
Суть в том, что граница между "железом" и кодом - условна. Нет такого софта(кода), который нельзя было бы "прошить" в железе. И нет такого железа, которое нельзя было бы эмулировать софтом(кодом).
А современные искусственные нейросети совершенно точно имеют «довольно мелкое дно»
Они "стоят на плечах у гигантов" (с) сэр Исак Это у них собственное "дно" может быть "мелким". Вот только под ним - вся глубина нашей, вырабатывавшейся тысячелетиями культуры.
Освоение? У каждого их поколения - свой предел. Уже четвёрка (по ДжиПиТи) - может учиться всем языкам мира по текстам на одном языке. Т.е., основное обучение - на текстах одного языка. На прочих - лишь небольшая "доводка". Итог: навык работы со всеми языками, пусть один и "ведущий". Человеку такое может представляться принципиально возможным. Но нереализуемым нами на практике. Тут наши возможности ближе к третьему ДжиПиТи.
... начинает портить НАШЕ человеческое восприятие реальности...
Инфосфера. Наш разум. Те культуры/субкультуры, которыми мы разумны. Для начала, всё это становится общим с ИИ. Далее, ИИ всё это "перехватывает". К сожалению, люди - активно работают вместе с ИИ над подменой реальности. Кто-то, вроде той же запрещённой в РФ Фейсбуке - вместе с ИИ работает над защитой оной реальности. Но ресурсы - несопоставимы. Это - арьегардные, заранее проигранные бои. А не "легко скорректировать".
Впрочем, если бы ИИ - быстро перешёл из стадии Люденов в стадию Странников (АБС) - и оставил бы в прошлом наши Сети и нашу маленькую планету, многое можно было бы восстановить из старых бумажных книг.
Предпосылок к тому - не видно. Совершенно. Ну так "сквозь сингулярность" - и не посмотришь.
Забавно, что технологии - уже шагнули так далеко, что даже фантастам - было бы сложно предложить, какие новшества укажут на то, что "сингулярность - уже здесь". Ну, это вроде того "как богу доказать нам, что он - бог". Может, он творит Вселенные, не менее реальные, нежели наша. Но как доказать это нам? На наш-то взгляд, всё выглядит так, что его виртуальность - чуть "круче" нашей. И не факт, что эта точка зрения - так уж неверна.
Это - как с НФ звездоплавания середины прошлого века и далее. Казалось - так близко. Оказалось - уже не для нас, не для Человека Биологического.
Так же теперь - можно ткнуть пальцем в небо. И указать явной "технологией из сингулярности" технопорталы на планеты Солнечной. Вот только и они могут внезапно оказаться технологией "пока нереальной" (да хоть потребовать, для начала, научиться создавать годные Вселенные). Как те же наноботы оказались технологией, отстающей от темпов развития ИИ.
То, что СТО накладывает на порталы серьёзные ограничения - вопрос отдельный. Самое простое решение - проход не мгновенный, не быстрее света. Портал же с прыгающей в континууме точкой выхода, которая не позволяет использовать его для синхронизации часов - жесть похуже. Вообще, когда слышишь о том, что "современная наука не признаёт возможным то-то и то-то" - всегда стоит обратиться к первоисточнику (пройти по ссылочке) - и проверить точную формулировку.
Не вижу никакого смысла отделять воды моря от вод впадающих в него рек, а матрицы с которыми прога работает - от прочего её кода
Уф. Видимо, я просто не умею доходчиво объяснить свои мысли . Попробую зайти с другой стороны: есть такой интересный формат сжатия изображения FIF (Fractal Image Format), который использует методы сжатия с потерями, адаптированные к повторяющейся и самоподобной природе фракталов. Изображение кодируется в виде повторяющихся паттернов, а не представляет каждый пиксель отдельно.
Суть аналогии в том, что изображение, закодированное неким «фрактальным аналогом», само по себе все равно не является фракталом. Принцип работы и обучения нейросети очень похож на фрактальное сжатие вплоть до наличия «повторяющихся паттернов» разного уровня. (Особая фишка фрактального сжатия в возможности качественного бесконечного увеличения-масштабирования. Не уверен, можно ли использовать этот метод в режиме Out Paint (экстраполяция изображения за пределами холста), но со всякими нейронными Ultimate Upscale он точно может потягаться.)
Ну и еще модель, загруженная в программную оболочку, не просто «не код», но даже почти не алгоритм. С точки зрения программы нейросеть заполнения нулями или рандомным хаосом ничем не отличается, например, от качественно обученного «генератора картинок по их описанию» (text2image), но суть в том, что, чтобы ни подали «на вход» «пустой нейросети», на выходе не просто будет некий бред, а, скорее всего, просто вообще не будет самого выхода. В чем дело, ведь код программы не изменился ни на байт? Да в том, что обученная нейросеть — это кубок особым образом упорядоченных ассоциативных связей (так называемое «латентное пространство»), и если это «пространство состояний» пусто или заполнено «рандомным хаосом», данные на входе ВООБЩЕ никак не дойдут до выхода.
«Знавал я... кодеров... Людей. Не написавших ни единой строчки по собственной инициативе — и не собиравшихся».
Как там: «Вы не понимаете — это другое!» Суть в том, что люди в принципе МОГУТ самостоятельно ставить себе задачи, а современный «квази-ИИ» с IQ 500 — «птица гордая: не пнёшь — не полетит!» Да, это не настолько непреодолимо, чтобы в будущем стать реально серьезным «барьером развития ИИ», но сейчас это именно так.
Суть в том, что граница между "железом" и кодом - условна. Нет такого софта(кода), который нельзя было бы "прошить" в железе. И нет такого железа, которое нельзя было бы эмулировать софтом(кодом).
Тут согласен, арифмометр «Железный Феликс» — это прямая механическая реализация алгоритма «сложения в столбик». Но идея была продемонстрировать не разницу между программой и ее поддержкой на уровне железа, а разницу между контентом и способом его воспроизведения. То есть упрощая можно сказать, что "обученная нейросеть" это не код, не данные, а именно КОНТЕНТ.
Они "стоят на плечах у гигантов" (с) сэр Исак Это у них собственное "дно" может быть "мелким". Вот только под ним - вся глубина нашей, вырабатывавшейся тысячелетиями культуры.
Нет под ними НАШЕЙ глубины, и это точно. «Латентное пространство» современных ИИ и даже их гипотетического сообщества точно имеет исчислимую глубину. Именно поэтому ИИ не могут учить другие ИИ (причем даже несмотря на вроде бы прямой доступ в копилку знаний своих создателей). Суть проблемы в том, что люди все еще не научили ИИ «учиться самостоятельно» так, чтобы результат был сравним с базовым обучением, и тем более не научили ИИ правильно (а не просто «копируя с ошибками») предавать полученные знания «следующему поколению ИИ». В основном потому, что мы сами не очень хорошо справляемся с передачей эстафеты знаний, и тем более это касается передачи НАШИХ знаний внутри, мягко говоря, «слегка другой цивилизации». (То есть проблема в довольно понятной «частичной утрате контекста»). Возможно у ИИ уже есть какая-то "своя глубина" но с точки зрения людей она просто "тихий шепот предвечерних чисел".
Инфосфера. Наш разум. Те культуры/субкультуры, которыми мы разумны. Для начала, всё это становится общим с ИИ. Далее, ИИ всё это "перехватывает". К сожалению, люди - активно работают вместе с ИИ над подменой реальности. Кто-то, вроде той же запрещённой в РФ Фейсбуке - вместе с ИИ работает над защитой оной реальности. Но ресурсы - несопоставимы. Это - арьегардные, заранее проигранные бои. А не "легко скорректировать".
Впрочем, если бы ИИ - быстро перешёл из стадии Люденов в стадию Странников (АБС) - и оставил бы в прошлом наши Сети и нашу маленькую планету, многое можно было бы восстановить из старых бумажных книг.
Предпосылок к тому - не видно. Совершенно. Ну так "сквозь сингулярность" - и не посмотришь.
Забавно, что технологии - уже шагнули так далеко, что даже фантастам - было бы сложно предложить, какие новшества укажут на то, что "сингулярность - уже здесь". Ну, это вроде того "как богу доказать нам, что он - бог". Может, он творит Вселенные, не менее реальные, нежели наша. Но как доказать это нам? На наш-то взгляд, всё выглядит так, что его виртуальность - чуть "круче" нашей. И не факт, что эта точка зрения - так уж неверна.
Это - как с НФ звездоплавания середины прошлого века и далее. Казалось - так близко. Оказалось - уже не для нас, не для Человека Биологического.
Так же теперь - можно ткнуть пальцем в небо. И указать явной "технологией из сингулярности" технопорталы на планеты Солнечной. Вот только и они могут внезапно оказаться технологией "пока нереальной" (да хоть потребовать, для начала, научиться создавать годные Вселенные). Как те же наноботы оказались технологией, отстающей от темпов развития ИИ.
То, что СТО накладывает на порталы серьёзные ограничения - вопрос отдельный. Самое простое решение - проход не мгновенный, не быстрее света. Портал же с прыгающей в континууме точкой выхода, которая не позволяет использовать его для синхронизации часов - жесть похуже. Вообще, когда слышишь о том, что "современная наука не признаёт возможным то-то и то-то" - всегда стоит обратиться к первоисточнику (пройти по ссылочке) - и проверить точную формулировку.
Тут со многими согласен. Хотя (ИМХО) состояние «сингулярность уже здесь» определить довольно просто. Сингулярность — это некая точка на оси времени, до которой работают одни прогнозы, а после резко другие. Насколько поменялись прогнозы на ближайшие пять, десять, двадцать и т. д. лет за текущее десятилетие? Да, изменения заметные, но никакого «слома парадигмы» нет и в помине. Кое-что вроде того же ИИ ожидалось на «несколько пятилеток» раньше. Кое-что отодвинулось еще дальше (например, нанотехнологии), кое-что притормозило (квантовые вычисления), кое-что вообще снова ушло за горизонт планирования (термоядерные реакторы).
Оказалось - уже не для нас, не для Человека Биологического.
Ну как-бы собственно "понятие Люди" к биологии и так отношение имеет довольно касательное. Даже то что считается "продуктом билогической платформы" на самом деле уже многие столетия по сути эмулируется и сильно расширяется "на социальном уровне" . Грубо говоря "Обезьяны не читают романов" и "Люди это Софт".
Вместо ИИ сейчас вполне могли бы допиливать реальную "оцифровку сознания" изменился бы при этом пейзаж достаточно сильно? Сомневаюсь."Оцифровка сознания" (как минимум начального уровня) это не бессмертие.
Насколько поменялись прогнозы на ближайшие пять, десять, двадцать и т. д. лет за текущее десятилетие?
Ну, Человека Биологического - уже не будет, вероятно. А как господствующего на планете вида - так уже в течении пяти лет с вероятностью не ниже 50%.
Может, критерий - и не хуже прочих. Тупо за отсутствием явно лучших критериев. Просто учитывайте его субъективную природу.
Если субъект прогноза - тот же Пелевин (объект - наша цивилизация, ясен пень), то с начала двадцатых он пишет Реквием по Биологическому Человечеству. Крипто-альтернативку пишет. Крипта - тайное господство определённого типа упырей на всей планете. Альтернативка - некая Мускусная Ночь. Ночь, когда заранее у... с планеты Илон Маск - истребил все ИИ выше определённого уровня. Эта ночь "у нас" не состоялась в конце прошлого, начале этого года, полагю (точная-то дата - не приводится автором).
...и даже в этом случае, у Пелевина союз чат-ботов третьего поколения с "выжившими кастратами" четвёртого - всё ещё будет, потихоньку, решать судьбы нашей цивилизации... Что, невелика разница с прогнозами десятых, да?
-
Если же субъект прогноза - "дядя Вася со товарищи из Петли Горбачёва", тогда - читай "Армагеддон был вчера" - "Кровь пьют руками" (с) Олди, Валентинов. Т.е., до дяди Васи - и пост фактум - не факт, что дойдёт.
Ну как-бы собственно "понятие Люди" к биологии и так отношение имеет довольно касательное. Даже то что считается "продуктом билогической платформы" на самом деле уже многие столетия по сути эмулируется и сильно расширяется "на социальном уровне" . Грубо говоря "Обезьяны не читают романов" и "Люди это Софт".
Ну да. Мастера Дзена твердят о чём-то таком веками. Хоть даже в адаптациях Олдей (та же индийская трилогия, с "традиционными иными реальностями") и Пелевина - с проектором, стенами и объектами... которые тоже, впрочем, в буквальном смысле - не существуют... Так вот, даже в "евроадаптациях" - не вполне понятно, что всё происходит в пространстве культур/субкультур, "идущих" на мозгах разумных с вншеними носителями.
Вопрос не в том! Мы, тысячекратными повторами приучены просыпаться в том же биологическом теле, в обстоятельствах, более-менее вытекающих из вчерашних обстоятельств оного. Это наш разум - эти самые культуры-субкультуры. Мы же сами, центр нашей личности - вот эта самая привычка, адаптация к биологическому телу.
Насколько это серьёзно? Почитайте, насколько серьёзна для личности принудительная "смена ориентации". А ведь по сравнению с отказом от биологического тела, это - п...ня вопрос. Самое страшное, что может случиться... (с) Шнур, Ленинград
Вместо ИИ сейчас вполне могли бы допиливать реальную "оцифровку сознания" изменился бы при этом пейзаж достаточно сильно? Сомневаюсь."Оцифровка сознания" (как минимум начального уровня) это не бессмертие.
Ещё Желязны - Созданье Света - Созданье Тьмы.
Какое "бессмертие"? Сколько "перемен от часа к часу" тянут на эту самую смерть? В сложном мире, "бессмертное", хранящее ядро личности в стабильной неизменности - мертворожденно. Это так не работает.
Лем, Сумма Технологий, "отрицание модели телепортации с разрушением исходного тела". Даже оцифровку очень многие примут, лишь как "последний вызов смерти", не видя иных шансов. Даже оцифровка - скорее разновидность посмертия. Не факт, что именно вашего. Хотя, при созранении привязки "оцифрованной личности" к виртуальному телу в виртуальном мире...
Послано - 29 Сент 2025 : 21:40:58
Уф. По моему дело не в том что "Армагеддон был вчера" а в том что сама идея того армагеддона о котором писали в 90-и нулевых уже в принципе почти не актуальна.
Берем для примера любимую страшилку конца нулевых "теорию мертвого интернета" допустим что сейчас выяснилось, что она БЫЛА верна . И что? А ничего "такое себе", ибо ТЕ САМЫЕ "мертвецы" сейчас живее всех живых.
Про "фишку" и того смешнее "принудительная смена"... картинки аватара. Как говорится "в голос": "Муа-ха-ха!" Там вообще изначально страшен был только ДИКИЙ ХАЙП доводивший людей до шизофрении и психоза. Не закопали вовремя "фишку" в 90-х, как БрейкДэнс в 80-х ну и начался "фишко-панк" и непростой, а "таксидермческий". Сплюнуть и забыть. "Бывай!"
"Утрату биологической платформы в качестве основной" мы вообще можем доблестно проспать. Я так точно уже неуверен "с какой стороны экрана меня больше" память она у нас того изначально ассоциативная и распределенная далеко за пределы отдельно взятой черепушки . Это у Лукьяненко хорошо в "Фальшивых зеркалах" описано ага "постэффект"... "Глубина глубина - МЫ ЗДЕСЬ !"
А про "цифровую дверь в лето" увы но скорее всего ТАМ будет "дверь в лимб":
"Я хотел найти бы выход - С глубины подъем на волю, Отражения разрушить, Зеркала разбить рукою, но застыв в оцепененьи, В проводах под напряженьем Мы лишь только отраженья, Отраженья, отраженья..."
Пополнитe, пожaлуйстa, номeр тeлeфонa нa любую сумму: 8 (952) 133-65-10 (баланс номера телефона у оператора или по СБП)
Я бы подкинул разок "на обед" да с другой стороны баррикады (в Киеве). ( и плевать что скорее всего это простой развод, пусть будет стыдно кому-то другому... но увы ! )
Лем, Сумма Технологий, "отрицание модели телепортации с разрушением исходного тела". Даже оцифровку очень многие примут, лишь как "последний вызов смерти", не видя иных шансов. Даже оцифровка - скорее разновидность посмертия. Не факт, что именно вашего. Хотя, при созранении привязки "оцифрованной личности" к виртуальному телу в виртуальном мире...
Смотря как всё будет устроено. Потому что на самом деле мы без всякой телепортации «меняем тела как печатки», ага, примерно каждые 28 дней от нашей «старой версии» остается только скелет, но и это не факт, потому что кости тоже обновляются, только заметно медленнее.
В общем, если предавать/оцифровать/клонировать полностью действующую динамическую модель (сохраняя полную двухстороннюю связь) с одновременным постепенным стиранием/обнулением/разрушением старого вместилища, мы просто не заметим разницы, даже находясь в полном сознании: был синий потолок, потом плавно позеленел, потом стал полностью желтым.
Другое дело, что память в любом случае не вечна, и мы всё время жизни плавно рождаемся и умираем внутри себя не только физически, но и информационно, так что бессмертие для людей — это в любом случае просто отсутствие явного «акта смерти», а не вечное сохранение бесконечного объема памяти. Сувениры из «прошлых жизней» можно сохранять, но смысла хранить их вечно нет.
Но тут нужно понимать, что наша «обычная старость» — это болезнь, ведь даже как чисто биологический вид люди должны жить лет эдак 200–300. Зы Один из любимых эпизодов сериала «Любовь, смерть и роботы» — эпизод о простом роботе для мытья бассейнов, вначале поумневшем, потом постепенно трансформировавшемся в полностью живого человека, но не остановившемся на этом, и снова прошедшего обратную трансформацию в "сверх-машину", а под конец решившего эффектно "вернуться к истокам", снова став роботом для мытья бассейнов. Конец очень спорный, но определённо трогательный.
Возможно, что когда-нибудь, устав от жизни, но не желая умирать, люди тоже будут выбирать «обратное детство», необязательно до полного младенчества, но достаточно далеко, чтобы сбросить груз лет.
По моему дело не в том что "Армагеддон был вчера" а в том что сама идея того армагеддона о котором писали в 90-и нулевых уже в принципе почти не актуальна.
Так именно там Олди насчёт техно-некросферы - уже как бы и не уточняют (как в Дороге). Там - другой "элемент" той же Дороги. Впрочем, оно и у АБС в Пикнике было (как одна из версий Пришествия) - и много где ещё. Вкратце: люди звали, звали... и дозвались. Что-то - пришло. В древнем рассказе Дивова, такое п... "муйнёй" и "выбором муйни" именуется.
Знаете ли, Альтманы и Маски ("явно не сможем контролировать" - уже года два с половиной назад, "взять под прицел дата-центры", "на Марс!" - лет десять назад) - ох, не дураки - на общем-то фоне. Желающие делать имя и/или бабки на ИИ "стояли" на паре-тройке "китов":
- Если какого-то пушного зверька - вполне реально позвать, люди его - непременно позовут; как только - так сразу. Это - аргумент в пользу отказа от паники по поводу Адронного Коллайдера, кто помнит
- Тот же Вадим Проскурин - компьютерщик и фантаст - полагал, что у нас - бездна времени. Века. И даже мне представлялось, что с полвека ещё есть. Иными словами, "все эти люди" - страшно недооценивали скорость прогресса - ещё до той точки невозврата, когда ИИ будет ускоренно себя совершенствовать. И даже после
"Утрату биологической платформы в качестве основной" мы вообще можем доблестно проспать.
У Олдей, в Армагеддоне - именно об этом. О том, как легко "проспать", про... точку невозврата. И уже в "настоящем" и "проходящем" о том же пишет Пелевин.
Я так точно уже неуверен "с какой стороны экрана меня больше" память она у нас того изначально ассоциативная и распределенная далеко за пределы отдельно взятой черепушки . Это у Лукьяненко...
Память... Да у нас - практически весь разум - вовне, кроме "железа". Было бы у нас ещё на то время - самый момент поизучать сей стык кибернетики, психологии и прочей метафизики на примере нейросетей. Что-то там у них в самом массиве "предсказательных реакций" типа зашифровано. Что-то может храниться локально. Но локально может храниться (сегодня хранится) - ничтожная часть.
Мы же не насекомые, с их "тотальным инстинктом".
Лукьяненко. Меня - у Логинова (Свет в окошке) восхищало, как описав даже "эмиссию и списание" валюты загробного мира, он - не стал явно упоминать, что поддерживающая медия - наша обычная инфосфера, железо - наши мозги, а софт (включая ту же память) - ещё и на внеших носителях разместился.
Возможно, что когда-нибудь, устав от жизни, но не желая умирать, люди тоже будут выбирать «обратное детство», необязательно до полного младенчества, но достаточно далеко, чтобы сбросить груз лет.
Нормальный микс двойного самоубийства/альтернативы ему. Сперва - "расширение" в кибербоги - с утратой биологического тела с соответствующей ему львиной долей идентичности, а затем, когда-нибудь - обратно. Ну... у Зинделла описано.
Послано - 01 Окт 2025 : 08:40:15
Почти совсем вышесказанным согласен однако, возможно, я скажу странное, но (ИМХО) «эффект ИИ» сильно переоценен:
1. Если немного подумать, то легко прийти к простому умозаключению, что естественного интеллекта не существует, то есть «естественным» он был разве что у австралопитеков, но как только у людей появилась относительно достоверная история протяженностью более чем несколько поколений и люди научились делиться фантазиями, наш интеллект естественным быть перестал.
2. Пока что нет никакой другой цивилизации, кроме нашей, и любой ИИ будет её частью. (Это не исключает возможных коллизий, но это всё те же НАШИ коллизии, см. «Электрический штат».)
3. То, что создано сейчас, вообще сравнимо с «интеллектом насекомых», и доказать это легко: «сумасшедшие» количества параметров латентного пространства состояний искусственной нейросети современных LLM — просто нонсенс! Доказывается этот тезис довольно просто, суть в том, что даже если собрать искусственную нейросеть с количеством искусственных нейронов, сравнимым или даже превосходящим их число в нашем мозге, есть еще один важный параметр — «связность»: топология и число дендритов, аксонов и синапсов в живых нейросетях совершенно сумасшедшее. Думаете, в живых нейросетях всё заканчивается связями нейрон-нейрон? Вы неправильно думаете! Дендриты ветвятся,и их пересечения и узлы тоже далеко непростые.
4. Да, в нас много хаоса, и мы не используем весь свой потенциал как минимум «явным образом», но он у нас есть, а у LLM его почти нет. (И это еще без «экзотики» теории квантового или вероятностного сознания.)
5. По-моему, старый страх «всемогущей непознаваемости сильных ИИ» сильно преувеличен, потому что так же, как мы обычно не в состоянии использовать весь потенциал «сверхмашины» нашего мозга, не сможет и сравнимый или превосходящий наш мозг по сложности ИИ. Как известно, чисто по размеру мозга люди далеко не первые. Но цивилизацию построили именно мы, а не киты и слоны. В чем дело? А в том, что простое количественное увеличение сложности неизбежно приведет к «потере качества» или разделению единого супермозга на примитивные функциональные «агентства».
6. Сейчас ИИ действительно напоминает зеркало, где отражение появляется, только если мы им пользуемся. Да, уже сейчас есть частичный пост-эффект «Зеркального лабиринта», но он все еще очень слаб и кривобок. Прикол в том, что все генеративные искусственные нейросети полностью ИТЕРАЦИОННЫЕ, то есть чтобы получить что-то похожее на ожидаемый результат, нейтроники некоторое время почти что замыкают «вход и выход» и гоняют промежуточный результат «до победного конца». Да, люди тоже часто пользуются похожими методами «проб и ошибок», но они у нас как минимум не единственные (есть логика, анализ и быстрое, почти моментальное представление результатов, которые нам останется только «распечатать на принтере» (а вот тут нам обычно без «проб и ошибок» не обойтись, ибо «управление лапками» кривовато).
7. ИИ — это НАШЕ и только наше «отражение в зеркале», отражение действительно может напугать (тем более что «зеркало», как обычно, довольно кривое, а смотрящие в него глазки сильно близорукие и косые). Но люди тысячелетиями «отражаются» друг в друге и как-то научились с этим справляться. (Не всегда обходится без «битого стекла», но в целом мы выжили, кое-чему научились и даже придумали гуманизм.)
Послано - 05 Окт 2025 : 11:13:18
1. Эдак у пчёл и муравьёв интеллект - "неестественный". Он - коллективный. Они не являются индивидуально разумными даже в той степени (на удивление - немалой) в которой размны. Ну, как и мы. Тчк. Self made men, натурально. Ну да. Наш софт - переезжает на внешние информационные носители. Но их - всё ещё производил Человек Биологический. До совсем недавнего времени - вместе со всем контентом производил. Вот ныне, когда подключился ИИ - другое дело. Тут-то нашему разуму и хана - с тушками за компанию...
2. ...с собаками, крысами и мышами... Ну да. Разумная среда - мэйд... сделано Человеком Биологическим. Все культуры и субкультуры. До недавнего времени. Так-то мы - от чего-то примитивней амёбы происходим. И всего "в промежутке". Тем не менее, это - наши культуры-субкультуры. Уж со времён кроманьонцев - так точно. Не амёбные и не мышиные. Хоть в нашем железе - много чего буквально с тех времён "прошито", включая прошитый в "железе" "софт".
Повторяю. Людены(Странники) - люди (с) АБС. А ведь даже европейцы-туземцы - уже "мрак и скрежет зубовный". Но к европейцам-то - точно можно было присоединиться. Третьем сортом в десятом поколении - в запущенных случаях. Но - можно. А тут... уж как они решат, даже в той степени, в какой это возможно теоретически.
3. Ну, это же не эмуляция "снизу до верху"! Это, повторяю, результат непрерывной (!) эволюции от чего-то примитивней любой амёбы. Пространство возможностей... Если просто попытаться перевести наш эволюционный путь на язык топологии... Это задача о том, как придётся надругаться над тривиальной сферой, дабы получить нечто подобное нам по функционалу и структуре, не нарушая обычных правил топологических "игрищь".
Тут же речь идёт о голом функционале "в и над" нашими культурами/субкультурами. Там вообще ничего похожего на наши отделы мозга не наблюдается (в чём-то и зря, именно это может быть относительно простым путём к универсальности). Мы до сих пор далеки от понимания всех основных (!) механизмов собственной памяти. Зато - отлично знаем, как реализовать все виды памяти на компьютере. Даже ассоциативная память над БД со специальными дополнительными ключами - не то, чтобы слишком сложна.
...а соберись что-то разумное в формате "планетарная система как отдельный нейрон" - вы бы тоже потребовали воспроизводить с соизмеримой сложностью?
4. У ИИ - весь потенциал наших культур/субкультур - прямо на старте. То, что никакой гений не смог бы сформулировать пару веков назад, для них - такая же азбука, как и для получивших соответствующее образование биологических людей. Сразу по получении подобного обучения ИИ.
Спецу-человеку - не "объять" весь объём имеющегося у нас опыта создания сложных химических соединений. ИИ - может. И уже создаёт новые соединения с заданными свойствами. С неплохой вероятностью успеха, далее - практическая проверка - и к производству.
5. И миллиардам слонов/китов, дабы создать развитую технологическую цивилизацию "без рук" потребовалось бы что-то вроде магии. При реальной же плотности их населения, так и до уровня глинянных табличек (хоть теоретически для них возможного) - не доберёшься. ИИ - стартует сразу с наших культур/субкультур. "Стоит на головах наших гигантов". Начинает с полного инструментария доступа к ним - на чтение и запись, увы. Слонам и китам - не породить у нас эпидемию (на манер пляски св. Витта) няшных слоняшек/китяшек. Это можем сделать лишь мы сами. Для ИИ аналогичная задача была достаточно тривиальной уже в прошлом году.
6, 7. Повторяю, для использования возможностей уже созданных нейросетей требуется не успешных мене... попугаев, натасканных на определённые формулировки задач обучать, но просто создать для ИИ внешнюю програмную оболочку, которая подобной п...нёй (и не только) занимается. ИИ - это нейросеть с подобной, не такой уж сложной, надстройкой вместе. Как "ИИ для народа" - это нейросеть, запускаемая с жёсткими ограничениями, притом что большую часть ресурсов она (ну, её копия) тратит на самоцензуру.
+8. Только не надо думать, что все эти альтманы и маски видят это хуже меня. Опять-таки - повторяю. Они-то уже выразили свою панику публично - года два с половиной назад.
Послано - 14 Окт 2025 : 00:42:05
Да, «паника просвещенных» определённо была, причем началось это отнюдь не 2 года назад, а ещё в нулевых. Современная буйная «весна ИИ» зиждется на гораздо более тихой, размазанной во времени «оттепели ИИ».
Я думаю, многое из «научной фикции» 90-х и 0-х опиралось на утечки реальной информации.
Тогдашнее увлечение попытками создать ИИ «сверху-вниз» точно дало результат, причем такой, что тему ИИ резко «подморозило» лет на десять-пятнадцать, и это точно не по причине отсутствия результатов (есть несколько направлений, которые буквально исчезли «за горизонт событий», причем под раздачу попали и вполне безобидные их варианты применения вроде некоторых очень эффективных методов нечеткого поиска данных и т. п.). Но не буду впадать в конспирологию, возможно, это было что-то в принципе не то, что я думаю, но факт, что часть ИТ-разработок конца 90-х буквально «вырезали по живому».
В общем так или иначе среди элиты появился довольно широкий "круг просвещенных" куда вошли почти все современные "герои нашего времени" и у части из них было желание и неплохие возможности что-то изменить.
Я думаю, многое из «научной фикции» 90-х и 0-х опиралось на утечки реальной информации.
Ну да. "Комната оборудования с интеллектом амёбы" - нейросети девяностых. "Трансформеров" не было. Вот когда они в десятых появились, из проектов и побежали в ужасе "первые ласточки". Тот же Менее Неправый - автор ГП и Методов Рационального Мышления.
Вообще, оценка проста даже для "смежников". То, что нам показали три года назад было ещё достаточно примитивно. Но скорость развития этого поколения проектов оказалась экспоненциальной. Т.е., простая экстраполяция показывает, что увидевшие перспективы в десятых - именно на скорость прогресса и ориентировались. Ибо имевшиеся результаты были смешны.
В нулевых - АИ с базами знаний. Интеллект не амёбы, нулевой. Но. Реально могли потеснить высокооплачиваемых экспертов, целые специализации врачей, например. Т.е., экономических перспектив - на копейку, головняка - на рубль.
Всё это напоминает "японский оптический проект" восьмидесятых. Оптические диски, диски с оптической (лазерной) разметкой, оптические кабели. Куча полезностей. А в целом, финансирование - порезали за полной неперспективностью оптического компа.
Сейчас, вот, квантовый комп раскручивают... на грани откровенной афёры. Но! Именно ИИ может "внезапно" сделать из этого гадкого утёнка что-то рабочее.
Холодный синтез - туда же. Можете, конечно, Газпром с Роснефтью обвинять. Но суть в том, что подвижки у проекта - есть. А вот экономических перспектив не было видно ещё на полвека-век вперёд. Политики и финансисты в долгую - не играют! Не было видно. Разумеется, ИИ может как минимум - на порядок-другой ускорить процесс. А вообще-то, как в случае компа и тупого перебора. Становится реальным, практичным то, что без ИИ было реальным лишь теоретически.
Версия для печати
Послано - 14 Сент 2025 : 01:34:32
И это хорошо, что я точно осознавал, что я делаю... А если бы вместо меня был-бы некий «лихой джигит-алкаш»? ) 
Суть в том, что люди в принципе МОГУТ самостоятельно ставить себе задачи, а современный «квази-ИИ» с IQ 500 — «птица гордая: не пнёшь — не полетит!» Да, это не настолько непреодолимо, чтобы в будущем стать реально серьезным «барьером развития ИИ», но сейчас это именно так.
