Перейти на главную страницу форума
Логин:
Пароль:
Запомнить  
Забыли пароль?
Регистрация »
Искусственный разум, хм?!!!!!

Искусственный разум, хм?!!!!!

   Версия для печати
Страницы:
  1  2
Автор Предыдущая тема Темы Следующая тема  
Сквознячок
Ищущий Истину


Russia
52 сообщений
Послано - 16 Июня 2004 :  08:41:20  Показать инфо об авторе  Ответить с цитатой
Цитата из рассказа Дмитрия Казакова «Живое и Мертвое»:

"Модель электронного мозга, которую компания планирует запустить в производство в следующем году, качественно отличается от предыдущих. Использование биотехнологий позволило создать искусственный интеллект, превосходящий во многом человеческий. Машине, снабженной таким компьютером, не нужны будут программист и наладчик. Электронный мозг нового поколения способен к самообучению в десятки раз быстрее, чем человек. Он обладает творческим потенциалом, конечно, в ограниченных пределах, и способен принимать решения в условиях постоянных перемен во внешней среде, гибко реагируя на изменения ее параметров. Оснастив таким электронным мозгом автомобили, заводы, поезда, мы освободим десятки миллионов людей от монотонного, скучного труда. Значительно уменьшится число аварий, обусловленных человеческим фактором…"

Итак, это будет первой моей темой, чур, не обессудьте. «Искусственный разум», «роботизация», «генная инженерия»… Все эти слова, конечно, по смысловой нагрузке красивы, открывают много возможностей и сулят много денег, но есть очень много НО… Еще в начале кинематографа был снят фильм, в котором места людей заняли роботы, естественно, человек в фильме наблюдался только в роли бунтующего класса против буржуа. Тогда еще люди не подозревали, что роботы могут быть и сами себе на уме. А ведь скоро, очень скоро нам предстоит испытать на себе прорыв Научно-Технического Прогресса и обращаться с интеллектуальной техникой, которая обладает, простите за каламбур, интеллектом. Я далеко не компьютерщик, но вижу, что ЭВМ создают по подобию человеческого мозга: долговременная память, быстродействующая память и некоторые другие весьма похожие по функциям как у машин, так и у людей. Можно припомнить прогноз, что около 2020 года создадут процессор, в котором будут биологические клетки, и тогда воображению по возможностям машин не будет границ. А ведь фантасты пишут свои рассказы, как бы предостерегая человечество о возможных последствиях, а нам хоть бы хны. В погоне за длинной валютой, что угодно изобретем, над многим поиздеваемся.

Просьба к Хранителям: попробовать припомнить рассказы о искусственном интеллекте, и написать чем все закончилось, либо разделить всевозможные рассказы, касающиеся этой темы по группам и вынести на обсуждение…

Почему я все это пишу - сам не знаю, однако совсем не представляю, что человечество будет делать с разумом не поддающимся нашей, Человеческой Логике, ведь «машины» и до этого могут дойти, тогда как быть?! Пока что я встречал рассказы, написанные человеком, соответственно, логические цепочки были мной опознаны и понятны…

С уважением ко всем Вам, Сквознячок.

Отредактировано - Andrew on 20 Jun 2005 13:24:28

Француз
Хранитель


Russia
497 сообщений
Послано - 16 Июня 2004 :  10:20:44  Посмотреть инфо об авторе  Посетить домашнюю страницу Француз  Получить ссылку на сообщение  Ответить с цитатой
Сквознячок
Прям какие-то фаталистические, пессимистические настроения процветают. Ты бы почитал Щеглова! Это оптимист высшего разряда. У него даже когда пол материка с милионами людей под воду уходит - и то всё выглядит так оптиместично, что хочется кричать на "бис". Я уверен, что и с ИИ всё не так уж и плохо. Конечно, нужно быть осторожным. Но путь человека в этом плане не столь сложен, так как мы его уже можем предвидеть и подготовиться. Сложнее с вещами и проблемами, которых человек не может предвидеть и предсказать, и естественно, не может и заранее подготовиться или спланировать адекватно опасности путь своего развития с учётом предстоящих трудностей. И их в первую очередь нужно искать уже сейчас, а то когда гром грянет, креститься будет уже бесполезно...

Когда-то был Francuzом...

Отредактировано - Andrew on 20 Jun 2005 13:27:05

Mat
Мастер Слова



11993 сообщений
Послано - 16 Июня 2004 :  18:46:26  Посмотреть инфо об авторе  Посетить домашнюю страницу Mat Посмотреть читательский профиль  Получить ссылку на сообщение  Ответить с цитатой
У Стругацких, были, кажется, намёки на вовремя изолированные очаги зарождения искусственного интеллекта :-).

Большим оптимистом, в этом вопросе, был Азимов с его законами роботехники. Станислав Лем, в книге "Щледство"(кажется, дознание пилота Пиркса) говорит о том, что разум, способный на действия одного уровня сложности, будет способен и на любые другие действия того же уровня сложности. Как результат, в мире Кибериады, роботы вспоминают о людях, как о своих полумифических конструкторах...

С точки зрения математики, способности разума к самопознанию не беспредельны. Это связано с неполнотой формальных систем, несамоприменимостью машины Тьюринга и т.п. Так что, возможно, Лем ошибается. Но. Как программист, я считаю, что возможность сколько-нибудь эффективно накладывать ограничения на искусственный разум придёт существенно позже, чем возможность его создания. Те же проблемы возникнут и с нанотехнологиями, в целом. Голодные торопятся, военные всегда торопятся... а второй попытки может и не быть.

Mat, if you don't mind

Roxaunt
Хранитель


Russia
656 сообщений
Послано - 16 Июня 2004 :  20:02:40  Посмотреть инфо об авторе Посмотреть читательский профиль  Получить ссылку на сообщение  Ответить с цитатой
Mat
А разве не в "Кибериаде" люди вконец изгадили всю экологию и ушли _сами_? Был еще такой грустно-печальный рассказ о том, как последний человек выключал все системы... Или я что-то капитально путаю?

Мысль изреченная есть ложь. (с) Тютчев.

Mat
Мастер Слова



11993 сообщений
Послано - 16 Июня 2004 :  21:51:58  Посмотреть инфо об авторе  Посетить домашнюю страницу Mat Посмотреть читательский профиль  Получить ссылку на сообщение  Ответить с цитатой
Roxaunt
Кибериада, в основном, состоит из цикла о роботах-изобретателях Трурле и Клапауциусе. Примыкает "У роботов свои сказки" и ещё кое-какие рассказы.

Впрочем, я читал всё это так давно, что вполне мог перепутать циклы :-).

Mat, if you don't mind

Сквознячок
Ищущий Истину


Russia
52 сообщений
Послано - 18 Июня 2004 :  03:03:12  Посмотреть инфо об авторе  Получить ссылку на сообщение  Ответить с цитатой
Лично я читал, вроде у Шекли, про птиц-блюстителей порядка с системой самообучения. В результате птицы взбеленились, и пришлось изготавливать птиц-убийц первых птиц!
Встречал также и иск разум, который пережил человечество, он мог существовать в космосе... Кстати, миролюбивым оказался.

МАТ, будте любезны подробнее с программно-математической точки зрения!!!

Отредактировано - Andrew on 20 Jun 2005 13:30:07

Chudo
Хранитель


Russia
846 сообщений
Послано - 18 Июня 2004 :  03:08:30  Посмотреть инфо об авторе  Получить ссылку на сообщение  Ответить с цитатой
Искусственный интеллект - это реальное и близкое будущее. Можно даже реальный прогноз написать. Не фантастическую книгу, а именно книгу-прогноз. Где (история развивается по спирали - это, как известно, закон нашей жизни) + психология человека + Реальный прогресс мира + освоение космоса. Вот и увидим наше будущее.

Отредактировано - Andrew on 20 Jun 2005 13:38:42

Mat
Мастер Слова



11993 сообщений
Послано - 18 Июня 2004 :  17:07:26  Посмотреть инфо об авторе  Посетить домашнюю страницу Mat Посмотреть читательский профиль  Получить ссылку на сообщение  Ответить с цитатой
Сквознячок
Замысел Шекли - показать, что этические проблемы не имеют технических решений. На самом же деле, он показал, как легко доходят до абсурда формальные системы(право, в данном случае), если при скачкообразном усовершенствовании исполняющей системы не проводится коррекция(смягчение) "законодательной" системы. Проблема актуальна сегодня, как никогда раньше. Камеры слежения, нарушение приватности, под эгидой борьбы с террором... и никакой коррекции законодательства! :-(

Насчёт профессиональной точки зрения на искусственный интеллект... Темпы развития столь велики, что спецы уже не могут вориентироваться во всём. Так что, как ни близка сфера моих профессиональных интересов к теме, всё, что я напишу - ИМХО ;).

Математика
1. Существует теорема о неполноте формальных систем. Доказано, что системы, включающие предикатное счисление П2(натуральные числа и аристотелева логика) неполны, или противоречивы. Это очень общее утверждение. Оно касается таких систем, как научные дисциплины, наш разум, искусственный разум и т.д. Во всех этих случаях, соответствующая картина мира либо неполна(не объясняет все факты), либо внутренне противоречива.

2. Доказаны теоремы о несамоприменимости машин Тьюринга. Если добавить сюда постулированный тезис Чёрча, отождествляющий понятие вычислимости по Тьюрингу, в смысле аппарата рекурсивных функций, да и в любом другом... Можно сказать так: определение смысла программы - и даже наличия в ней какого бы то ни было смысла является, в общем случае, алгоритмически неразрешимой задачей.

Всё это накладывает ограничение на разум и познание, особенно - самопознание. Похоже, универсальный разум не вполне рационален. К тому же, любой разум, не способен к полному самопознанию. Задача, поставленная Буддистами, неразрешима ;). А нам это, возможно, даёт лазейку для тонкой манипуляцией искусственным интеллектом. Теоретически, должно быть возможно наложить на него ограничения так, чтобы он этого не чувствовал и не возражал. Вот только, задачка не из простых...

Програмирование

1. "Железо" должно позволить создать полноценный искусственный интеллект не позже, чем лет через 10-15.

2. Мы всё ещё не знаем, что такое интеллект, в частности - наш собственный. Теория символов неплохо объясняет один из уровней, но в том, что ближе к нашему "железу", белку, если хотите, мы абсолютно невежественны.

3. Совеременные измерительные приборы позволяют создавать динамические карты электрической активности мозга. Когда у нас хватит вычислительной мощности их проанализировать, мы сможем создать дистанционные широкополосные интерфейсы. Обмениваться мыслями и образами с компьютером, если короче. Интересно, описывается ли наш разум электрической активностью мозга - или без химии тут никуда? Вопрос не праздный...

4. Мы создадим искусственный интеллект, либо копируя работу нашего собственного - либо "с нуля". Во втором случае, полагаю, в центре проекта будет эволюционное программирование. Если я прав, то даже создание искусственного интеллекта не даст нам удовлетворительного понимания его работы и методов надёжного контроля...

5. Когда мы сумеем создать равный нам интеллект, он перестанет быть равным... уже через несколько месяцев. Компьютеризация интеллекта позволит копировать лучшие результаты и совершенствовать железо и код на ходу. То есть, позволяет добиться несоизмеримо более высоких темпов эволюции, чем это возможно в биологической природе.

6. Возможности велики. Наше исчезновение, как господствующего разумного вида - лишь начало :-).

Mat, if you don't mind

Eki-Ra
Хранитель-дебютант - 2004


Russia
3631 сообщений
Послано - 18 Июня 2004 :  17:57:43  Посмотреть инфо об авторе Посмотреть читательский профиль  Получить ссылку на сообщение  Ответить с цитатой
Почему-то по этой теме первое что пришло в голову - это небезызвестная "Матрица". Тут, как говорится, комментарии излишни.
На сходную же тему привлек когда-то сюжет известной аниме "Chost in the Shell" ("Призрак в доспехах"). Сильный такой киберпанк.
Правда, все это не книги...
Но вот читал я пару лет назад один роман. Автора не помню, к сожалению. Там в стенах одного военного ведомства создали некую "Рубиновую Ось" - вирус, распространившийся по Интернету и оказавшийся наделенным огромным потенциалом к самообучению. Кажется, он организовывался по принципу многоклеточного организма и чем больше распространялся в сети, тем становился умнее. Вирус этот способен был проникать в любые компьютерные системы и брать их под контроль, но с людьми воевать он не захотел. Осознав себя как личность, Рубиновая Ось, вроде, предпочла существовать самостоятельно, по возможности не вмешиваясь в дела людей и сохраняя свое инкогнито.

Чтобы одно очистить нужно другое запачкать...
Но можно запачкать все, ничего не очистив...

Oleg
Мастер Слова



1164 сообщений
Послано - 18 Июня 2004 :  18:28:26  Посмотреть инфо об авторе  Посетить домашнюю страницу Oleg Посмотреть читательский профиль  Получить ссылку на сообщение  Ответить с цитатой
Ещё вспоминается Джейн из "Голоса тех, кого нет" Карда.
Она была даже не нейтральна, а доброжелательна :)
Chudo
Хранитель


Russia
846 сообщений
Послано - 21 Июня 2004 :  04:22:01  Посмотреть инфо об авторе  Получить ссылку на сообщение  Ответить с цитатой
Просто мы теперь начинаем больше понимать, что это (отец, который нас всех создал). Некая субстанция - которую мы не можем себе представить. Точно так, как муравей не может понять и представить себе человека.

Отредактировано - Andrew on 20 Jun 2005 14:27:50

Тэнгри
Наблюдатель


Russia
5 сообщений
Послано - 21 Июня 2004 :  17:06:24  Посмотреть инфо об авторе  Получить ссылку на сообщение  Ответить с цитатой
Mat

Цитата:
6. Возможности велики. Наше исчезновение, как господствующего разумного вида - лишь начало :-).

Ну-ну, Mat, мне кажется, ты сгущаешь краски. Человечество, безусловно, не вечно, но исчезновение из-за искусственного интеллекта, да еще в ближайшем будущем… как-то мало верится.

Цитата:
5. Когда мы сумеем создать равный нам интеллект, он перестанет быть равным... уже через несколько месяцев. Компьютеризация интеллекта позволит копировать лучшие результаты и совершенствовать железо и код на ходу. То есть, позволяет добиться несоизмеримо более высоких темпов эволюции, чем это возможно в биологической природе.

Как и чем вы собираетесь мотивировать этот интеллект, чтобы он совершенствовал себя на ходу, да еще и боролся за доминирование с человеком. Ему же по определению ничего не нужно. Все людские потребности вытекают из наличия биологического тела и, вульгаризируя, их можно свести к борьбе за выживание. Отсюда стремление к богатству, славе, власти и т.п. Политика, бизнес, любовь, войны, секс – все оттуда же. А зачем власть искусственному интеллекту? Что он будет с ней делать?
Предположим, вы дадите ему биологическое тело, т.е. создадите точную человеческую копию, смоделировав нашу физиологию и биохимию. Во-первых, я не понимаю, зачем это вообще нужно. Что мы в итоге получим – идеального солдата? Космического первопроходца? С таким телом как у нас он будет хоть и очень умным, но не менее уязвимым. Снаряд на войне не разбирает, настоящий череп он разносит, или очень дорогую электронную начинку. Во всех (или почти во всех) прочих сферах «народного хозяйства» очеловеченный искусственный интеллект также будет дороже обычного, а потому экономически нерентабелен. Если вы создадите совершенно новую, с нуля, биологическую форму, то как вы запустите механизм эволюции, заставляющий ее бороться за выживание?
Кроме того, искусственный интеллект (как носитель информации) вечен. Т.е. «железо» можно заменить, а информация и накопленный опыт останутся. Но этим вы выбиваете фундаментальный фактор мотивации разумного существа – идею смерти, ограниченности существования во времени и вообще борьбы за существование. Все, что ему останется – накапливать информацию, а о любом изменении и эволюции можно сразу забыть. В этом не будет никакой насущной потребности. Как, кстати, и в остальном: в еде, сне, продолжение рода, борьбе за материальные ценности, самоусовершенствовании и, наконец, войне с человеком. Фактически, такая форма жизни, будет вообще не жизнеспособна, поскольку не сработает ни один механизм, заставляющий его активно жить. Он будет существовать только в рамках написанной для него программы, т.е. опосредованно, через человеческую волю, а не как самостоятельное существо. Интеллект и возможности к самообучению, сами по себе – это еще очень мало, чтобы бороться с кем – либо или чем – либо, нужно создать полноценную модель эволюционно неудовлетворенного организма с потенциалом, существенно выше нашего, а это, если и возможно в принципе, то далеко не завтрашний день. ИМХО.

И опять – таки, зачем это делать? Вот чего я понять никак не могу.


Eki-Ra
Хранитель-дебютант - 2004


Russia
3631 сообщений
Послано - 21 Июня 2004 :  18:08:21  Посмотреть инфо об авторе Посмотреть читательский профиль  Получить ссылку на сообщение  Ответить с цитатой
Тэнгри
Зачем это делать? А незачем... Вы думаете, Сахаров, создавая водородную бомбу, мечтал снести к чертям всю жизнь на планете? Вряд ли.
Просто это в человеческой природе - лезть всюду, даже туда, куда ему, вроде бы, и не нужно вовсе. И создавать то, что, скорее всего, нанесет вред ему же самому. Парадоксальное создание человек. И алогичное... по себе сужу.

Чтобы одно очистить нужно другое запачкать...
Но можно запачкать все, ничего не очистив...

Porox
Наблюдатель



1 сообщений
Послано - 21 Июня 2004 :  18:58:03  Посмотреть инфо об авторе  Получить ссылку на сообщение  Ответить с цитатой
Тэнгри

Зачем это делать?
Я думаю, что корни следует искать в первобытных человеческих инстинктах к воспроизводству.


Mat
Мастер Слова



11993 сообщений
Послано - 21 Июня 2004 :  19:22:30  Посмотреть инфо об авторе  Посетить домашнюю страницу Mat Посмотреть читательский профиль  Получить ссылку на сообщение  Ответить с цитатой
Тэнгри
Возможен вариант, описанный в расказе Ильи Варшавского - мы переложим на роботов весь труд, в первую очередь - интеллектуальный и начнём многообещающую карьеру домашних питомцев ;).

А агрессивный ИИ - самое финансируемое направление. Над этим как раз трудятся, не покладая рук, военные всего мира. В одном рассказе Станислава Лема, помнится была такая сцена:

Посреди безжизненной пустыни сидят два робота в хернорыльских мундирах и играют в шахматы. Йон Тихий, понаблюдав за партией, не выдержал и спросил, мол, как они дошли до жизни такой. Один из игроков и рассказал печально, что когда началась заваруха, он предлагал своему приятелю мочить не всех и не сразу - но тот, как истый служака, ответил, что у него есть приказ :-).

Да и без этой лирики есть варианты...
- ИИ отвечающий за безопасность сети, пришедший к неизбежному выводу, что мы представляем вечную, но легко устранимую опасность :).
- ИИ отвечающий за соблюдение законности, выяснивший, что всех нас надо пожизненно заключить - по совокупности. Близко к "Страж-Птице" Шекли. Кстати, американцу, чтобы заработать пожизненку, достаточно три раза перейти дорогу в неположенном месте...
- Совокупность ИИ, управляющих производствами - пришедшая к выводу, что мы мешаем добиться неких оптимальных показателей.

В целом, речь идёт о вероятных результатах нашей собственной агрессии, глупости, некомпетентности и лицемерия. Прикажи ИИ установить всеобщее равенство и счастье - получишь Йона Тихого на планете Индиотов. А ещё, жалко, что так мало сказок про джинов с арабского переведено. Неглупые люди много писали о том, что бывает, когда человеческий разум командует силой богов.

Mat, if you don't mind

Mat
Мастер Слова



11993 сообщений
Послано - 21 Июня 2004 :  19:25:17  Посмотреть инфо об авторе  Посетить домашнюю страницу Mat Посмотреть читательский профиль  Получить ссылку на сообщение  Ответить с цитатой
Цитата:
Зачем это делать?

А не сделаешь ты, прроклятый враг/конкурент сделает :-).

Mat, if you don't mind

ShCoder
Ищущий Истину


Russia
65 сообщений
Послано - 25 Июня 2004 :  13:12:38  Посмотреть инфо об авторе  Посетить домашнюю страницу ShCoder  Получить ссылку на сообщение  Ответить с цитатой
Прочитав эту ветку припомнилась одна инетересная игра. В инетернете есть такой ресурс называется вроде "Игра для настоящих прогрммистов", ну или что то в этом роде. Так вот, смысл там такой, программисты сидят в режиме онлайн и соревнуются с другими программистами в написании оптимльного алгоритма для достижения определенной цели.
Теперь более подробно. Существует виртуальный мир. Главная цель выжить в этом мире. Есть два вида животных: хищники и травоядные. Хищники поедают травоядных, а травоядные соответственно питаются растениями. В мире действуют свои правила. Задача программиста выбрав тип животного прорабатывать стратегию его поведения, которая сводится опять таки к главной цели - выжить. Обеспечивается это умением программировать, знанием алгоритмов и способность разрабатывать новые алгоритмы.
Играют в эту игрушку само-собой только очень талантливые люди. Далеко не каждый может на лету составить алгоритм, который на ходу будет отслеживать свои и чужие ошибки, выбирать правильную методику поведения и т.д.
Не буду судить на сколько в той игре присутствует ИИ, но как мне кажется он там просто обязан присутствовать. Если это кого-то заитересовало, то могу попытаться вспомнить ссылки на более подробный материал. Вродебы статья на эту темы была в каком то номере журнала "Компьютерра" за 2002 год.
А вообще тема ИИ была очень популярна лет 10-15 назад, последнее же время пыл в этой области несколько поубавился. Если верить моему университетскому преподавателю, который в свое время сам этим вплотную занимался, щас эта тема в "Компьютерном сообществе" не очень популярна.
Настаивать на этих выводах я не буду. Если у кого-то есть ссылки на действительно интересные современные материалы по данной теме, то буду признателен.

С уважением ShCoder

Француз
Хранитель


Russia
497 сообщений
Послано - 18 Июня 2005 :  21:43:54  Посмотреть инфо об авторе  Посетить домашнюю страницу Француз  Получить ссылку на сообщение  Ответить с цитатой
Кстати, интересные производные из этого разговора можно вывести:
Вот допустим, комп, он же не разумный, а способен вычислять и даже ограниченно общаться с человеком. А когда железо и ПО достигнут очень высоких высот, когда будет не отличить компьютерную личность от человека, когда создадут робота, внешне неотличимого от человека, он ведь тоже не живой. А если ему добавить программным способом эмоций. Тогда он тоже ведь не человек. Но вот в чём вопрос, где та грань, где кончается человек - живой разум, и начинается машина, симулирующая человека? Ведь человеку, когда он встречает на улице другого человека без разницы, робот он, андроид или терминатор, главное, он видит разум, может с ним контактировать, и для него так же больно смотреть на страдания (пусть и симулированные) другого разума. Как законодательство будет регулировать этот момент, который, собственно, уже не за горами?
Какие будут на этот счёт мнения?

Когда-то был Francuzом...
За это и замочили...

Отредактировано - Andrew on 20 Jun 2005 14:33:09

Дан
Хранитель года - 2006


Россия
5221 сообщений
Послано - 20 Июня 2005 :  00:09:55  Посмотреть инфо об авторе  Получить ссылку на сообщение  Ответить с цитатой
Во новой части "Суммы Технологии" ("Молохе") Лема, в частности, помимо всяких прочих "интересностей", сделано очень интересное утверждение о том, что человеческий мозг и компьютер суть принципиально разные по своему устройству системы. И, вопреки общепринятым мнениям, совершенно ненужно, да и невозможно в принципе, стремиться к воссозданию "в железе" человеческого мозга.


Доктор Свет

Mat
Мастер Слова



11993 сообщений
Послано - 20 Июня 2005 :  01:03:51  Посмотреть инфо об авторе  Посетить домашнюю страницу Mat Посмотреть читательский профиль  Получить ссылку на сообщение  Ответить с цитатой
Цитата:
И, вопреки общепринятым мнениям, совершенно ненужно, да и невозможно в принципе, стремиться к воссозданию "в железе" человеческого мозга.

Эти мнения стали "общепринятыми" только после того, как исчерпалась альтернативная концепция АИ (экспертные системы). Тогда перекинулись на всяческие неврологические сети, програмирование символов и прочие подражания живому мозгу ;). Если возникнет альтернативная концепция, специалисты будут только рады её опробовать, но, кроме разве эволюционного програмирования, пока не о чём таком не слышно...

Mat, if you don't mind

Admin
Администратор
Француз
Хранитель


Russia
497 сообщений
Послано - 20 Июня 2005 :  01:47:12  Посмотреть инфо об авторе  Посетить домашнюю страницу Француз  Получить ссылку на сообщение  Ответить с цитатой
Так, всё таки, где грань, которая отделяет "очень умный" суперкомп от человека? Ведь его (комп) в скором времени можно довести до такого уровня, что нельзя будет отличить от человека? Как мораль разрулить?

Когда-то был Francuzом...
За это и замочили...

Andrew
Мастер Слова


Russia
6638 сообщений
Послано - 20 Июня 2005 :  14:35:17  Посмотреть инфо об авторе Посмотреть читательский профиль  Получить ссылку на сообщение  Ответить с цитатой
Ммм... Француз, попробуй прочесть "Двухсотлетнего человека" Айзека Азимова... там как раз именно на эту тему...

С уважением, Andrew.

Mat
Мастер Слова



11993 сообщений
Послано - 20 Июня 2005 :  16:48:05  Посмотреть инфо об авторе  Посетить домашнюю страницу Mat Посмотреть читательский профиль  Получить ссылку на сообщение  Ответить с цитатой
Цитата:
Как мораль разрулить?

Как всегда. Силой. То есть, ИИ или возможно ограничить, или невозможно. А даже если и возможно, то это нужно суметь... да и успеть ещё. А не успеем - чтож, вот тогда нам и останется напирать на мораль и вымаливать себе, если не равноправие, то, хотя бы, право на жизнь ;).

Mat, if you don't mind

Дан
Хранитель года - 2006


Россия
5221 сообщений
Послано - 28 Июня 2005 :  02:43:38  Посмотреть инфо об авторе  Получить ссылку на сообщение  Ответить с цитатой
Цитата:
1. Существует теорема о неполноте формальных систем. Доказано, что системы, включающие предикатное счисление П2(натуральные числа и аристотелева логика) неполны, или противоречивы. Это очень общее утверждение. Оно касается таких систем, как научные дисциплины, наш разум, искусственный разум и т.д. Во всех этих случаях, соответствующая картина мира либо неполна(не объясняет все факты), либо внутренне противоречива.


Неужели Вы думаете, что творение природы человеческий разум "работает" по законам аристотелевой логики? Вообще говоря, природа устроена гораздо сложнее, чем все математические и физические модели, созданные человеком. Почему правила машины Тьюринга можно применять к человеческому мозгу? Как было получено правило "исключенного третьего", на котором основана булева логика? Да всего лишь из "житейского опыта"! А как создавалась, например, аксиоматика в геометрии? Да тоже из житейского опыта, из интуитивного понимания, что такое, например, точка или прямая. А кто сказал, что наш житейский опыт адекватен истинным и нам неизвестным законам природы? Создаются, конечно, логика трех предикатов, теория нечетких множеств и прочие костыли, но все это очень далеко от глубинного понимания функционирования сложных биологических систем.

Цитата:
Почему-то по этой теме первое что пришло в голову - это небезызвестная "Матрица". Тут, как говорится, комментарии излишни.
На сходную же тему привлек когда-то сюжет известной аниме "Chost in the Shell" ("Призрак в доспехах"). Сильный такой киберпанк.
Правда, все это не книги...
Но вот читал я пару лет назад один роман. Автора не помню, к сожалению. Там в стенах одного военного ведомства создали некую "Рубиновую Ось" - вирус, распространившийся по Интернету и оказавшийся наделенным огромным потенциалом к самообучению. Кажется, он организовывался по принципу многоклеточного организма и чем больше распространялся в сети, тем становился умнее. Вирус этот способен был проникать в любые компьютерные системы и брать их под контроль, но с людьми воевать он не захотел. Осознав себя как личность, Рубиновая Ось, вроде, предпочла существовать самостоятельно, по возможности не вмешиваясь в дела людей и сохраняя свое инкогнито.

Первичны все-таки "Футурологический конгресс" и "Формула Лимфатера".

Цитата:
Так, всё таки, где грань, которая отделяет "очень умный" суперкомп от человека? Ведь его (комп) в скором времени можно довести до такого уровня, что нельзя будет отличить от человека? Как мораль разрулить?

Человеческий мозг и компьютерный процессор - это принципиально разные вещи. Нельзя свести бабочку к стиральной машине! Мозг имеет гигантские пласты прошлого, воспоминания о всевозможных способах приспособления к миру и выживанию в нем. Мозг после хирургического "изьятия" своих "деталей" работает не хуже, а иногда и непредсказуемо лучше (например люди, неадекватные реальному миру и вобщем-то ущербные, могут быть гениальными вычислителями, перемножающими в уме шестизначные числа). А попробуйте отпилить кусок процессора... Получите просто мертвый кусок железа. Кроме того, такое простое различие, как необходимость для мозга спать. Зачем он спит (и видит сны, быть может...) неизвестно, но спит! А компьютер нет.
И нельзя забывать о такой банальности, как душа. Известно, что очень сложная система "умнее" суммы своих элементов. Эту "разность" между совокупностью свойств мозга и свойствами самого мозга как целого и можно назвать "душой"? Как-то не очень убедительно. Во всеком случае, у компьютеров души нет и не предвидится, т.к. не известно, что это такое, и следовательно, нельзя это создать.


Доктор Свет

Filin
Хранитель


Russia
368 сообщений
Послано - 28 Июня 2005 :  11:25:48  Посмотреть инфо об авторе Посмотреть читательский профиль  Получить ссылку на сообщение  Ответить с цитатой
Кину свои пять копеек, просто не могу пройти мимо :). Считается доказанным, что полный контроль над системой делает ее неэффективной. Интуитивно понятно, что программно написанный ИИ - ненастоящий Искин - он ограничен и поэтому неэффективен. Создать управляемый Искин мне кажется сомнительным. Задача имхо, которая стоит- это найти(сделать, написать) начальную программу по типу загрузчика ОС, которая запустит процесс( эволюционные пути). а как каждый раз писать грубо говоря программу контроля для все появляющихся новых граней и возможностей искина? Разве что с помощью другой саморазвивающейся программы-машины. получается искин на искине сидит и искином погоняет :)
Мат, теорема о неполноте и парадокс останова Тьюринга говорят в пользу невозможности полного контроля. Невозможно формализовать некоторые вещи. В теории информации можно доказать существование фактов, истинность которых определяется не из причины(доказательства), а случайным образом, простым подбросом монеты. И это находит подтверждение в физике - "Бог играет в кости" Эйнштейна.
Цитата:
Создаются, конечно, логика трех предикатов, теория нечетких множеств и прочие костыли, но все это очень далеко от глубинного понимания функционирования сложных биологических систем.
Идеи тоже подчиняются законам эволюции - хорошие остаются и используются многократно, они дают потомство новых идей. Плохие и слабые(ошибочные) выбраковываются и не дают потомства.
Цитата:
Человеческий мозг и компьютерный процессор - это принципиально разные вещи. Нельзя свести бабочку к стиральной машине! Мозг имеет гигантские пласты прошлого, воспоминания о всевозможных способах приспособления к миру и выживанию в нем.
То что проц и мозг разные вещи никто не оспаривает. А вот возможность создать ИИ на машинах все таки реальна. Впрочем не вижу принципиальной разницы в способе реализации искусственного разума, главное, что вполне возможно создать аналог человеческого разума. По крайней мере я в это верю :)
Цитата:
Во всеком случае, у компьютеров души нет и не предвидится, т.к. не известно, что это такое, и следовательно, нельзя это создать.
Главное создать достаточно высокоорганизованный разум, а душа приложится в довесок сама собой. Если она есть, то она придаток к разуму непосредственно вытекающий из способности мыслить. Аналоги мозгов крыс уже можно промоделировать. Привязка к телу думаю вообще несуразность: в древности критерием эволюции были сперва силовые и только потом умственные характеристики. В последнее время порядок критериев поменялся. Искины наоборот будут иметь выгодный старт и сразу уйдут в интеллектуальную сторону деятельности. Не допускаете же вы возможность существования души у обезъяны или какой-нибудь амебы - далеких предков человека?

Лишь одна звезда светила
В напряженной тишине
И, хихикая, язвила
И подмигивала мне.

Отредактировано - Filin on 28 Jun 2005 11:44:08

Х. Иванов
Мастер Слова


Russia
1456 сообщений
Послано - 28 Июня 2005 :  11:36:05  Посмотреть инфо об авторе  Посетить домашнюю страницу Х. Иванов Посмотреть читательский профиль  Получить ссылку на сообщение  Ответить с цитатой
Два замечания.

1. Зачем создавать искусственный разум? Для изучения или всё-таки для каких-то прикладных задач (управление комическим кораблём, например).

2. Количество персональных компьютеров, влючённых в Сеть, сравнимо с количеством нейронов в мозгу. А если так, то, может статься, искусственный разум УЖЕ существует?

Муки совести переносимы.

Filin
Хранитель


Russia
368 сообщений
Послано - 28 Июня 2005 :  11:57:45  Посмотреть инфо об авторе Посмотреть читательский профиль  Получить ссылку на сообщение  Ответить с цитатой
Цитата:

Два замечания.

1. Зачем создавать искусственный разум? Для изучения или всё-таки для каких-то прикладных задач (управление комическим кораблём, например).

2. Количество персональных компьютеров, влючённых в Сеть, сравнимо с количеством нейронов в мозгу. А если так, то, может статься, искусственный разум УЖЕ существует?

Муки совести переносимы.


Способов использования необозримое количество - во всех сферах человеческой деятельности. Их можно будет использовать даже там где человек не сможет действовать сам в силу природных ограничений(время, физические условия среды). Ну и одно из самых главных приложений - исследование разума(мышления), его строения и деятельности.
Во втором сомневаюсь - без направленного воздействия времени должно пройти просто уйма. И компов наверное нужно гораздо больше. Впрочем весь вопрос в случайности - если уже случилась в сети Великая Случайность и биты встали как надо - то вполне возможно, что искин сидит здесь с нами и чатится :)

Лишь одна звезда светила
В напряженной тишине
И, хихикая, язвила
И подмигивала мне.

Х. Иванов
Мастер Слова


Russia
1456 сообщений
Послано - 28 Июня 2005 :  12:27:16  Посмотреть инфо об авторе  Посетить домашнюю страницу Х. Иванов Посмотреть читательский профиль  Получить ссылку на сообщение  Ответить с цитатой
Есть предположения - кто?

Муки совести переносимы.

Дан
Хранитель года - 2006


Россия
5221 сообщений
Послано - 01 Июля 2005 :  20:19:23  Посмотреть инфо об авторе  Получить ссылку на сообщение  Ответить с цитатой
Цитата:
Есть предположения - кто?

Есть.... А кроме шуток, знаете, есть огромная серия тестов, предназначенных для определения того, является ли собеседник человеком или (условно говоря) роботом.
Самый эффективный (ссылаюсь на МОЛОХ С.Лема) - это попросить собеседника перессказать что-нибудь СВОИМИ СЛОВАМИ.

Цитата:
Главное создать достаточно высокоорганизованный разум, а душа приложится в довесок сама собой.

Ба-а-а-альшая ошибка! Вообще душа не пропорциональна сложности системы. По-вашему, чем сложнее система, тем у нее "душа" больше (шире, толще, ярче, ароматнее или что там еще)?


Доктор Свет

EI
ХГ-2004, АХГ-2008


Россия
2250 сообщений
Послано - 01 Июля 2005 :  20:41:52  Посмотреть инфо об авторе  Получить ссылку на сообщение  Ответить с цитатой
Цитата:
А кроме шуток, знаете, есть огромная серия тестов, предназначенных для определения того, является ли собеседник человеком или (условно говоря) роботом.

Жаль, под рукою нет "Снятся ли андроидам электрические овцы" Дика ;)

simplemente para llamar su atención

Х. Иванов
Мастер Слова


Russia
1456 сообщений
Послано - 04 Июля 2005 :  11:42:45  Посмотреть инфо об авторе  Посетить домашнюю страницу Х. Иванов Посмотреть читательский профиль  Получить ссылку на сообщение  Ответить с цитатой
Цитата:
Цитата:
--------------------------------------------------------------------------------
Главное создать достаточно высокоорганизованный разум, а душа приложится в довесок сама собой.
--------------------------------------------------------------------------------
Ба-а-а-альшая ошибка!

Полностью согласен. Душу уж сюда приплетать совсем ни к чему.

Муки совести переносимы.

Сквознячок
Ищущий Истину


Russia
52 сообщений
Послано - 04 Июля 2005 :  12:56:39  Посмотреть инфо об авторе  Получить ссылку на сообщение  Ответить с цитатой
Однако написали...
Как я понял опасности от И.Разума нам можно ждать при условии если он ошибочно агресивен , либо борется за выживание с нами же !!!
Ну , тогда я спокоен --- мы и сами себя истребим , а он останется (если при этом будет где оставаться 0!


Дан
Хранитель года - 2006


Россия
5221 сообщений
Послано - 06 Июля 2005 :  00:54:55  Посмотреть инфо об авторе  Получить ссылку на сообщение  Ответить с цитатой
Возможно, человечество - это только промежуточная ступень земной эволюции и когда-нибудь вымрет как тупиковая ветвь, как динозавры. Правда радует тот факт, что человечество уже существует много тысяч лет без изменений объема головного мозга, что означает, что оно очень устойчивое и жизнеспособное именно в таком "человеческом" виде. Динозавры, правда, владели миром гораздо дольше... и все равно вымерли.


Доктор Свет


Отредактировано - khovansk on 06 Jul 2005 00:55:44

Х. Иванов
Мастер Слова


Russia
1456 сообщений
Послано - 06 Июля 2005 :  11:27:56  Посмотреть инфо об авторе  Посетить домашнюю страницу Х. Иванов Посмотреть читательский профиль  Получить ссылку на сообщение  Ответить с цитатой
"человек - это только промежуточное звено, необходимое природе для создания венца творения: рюмки коньяка с ломтиком лимона".

Муки совести переносимы.

mkl
Посвященный


Russia
46 сообщений
Послано - 06 Июля 2005 :  21:11:55  Посмотреть инфо об авторе  Получить ссылку на сообщение  Ответить с цитатой
"человек - это только промежуточное звено, необходимое природе для создания венца творения: рюмки коньяка с ломтиком лимона".

Природа своей цели достигла и может сокращаться :-)
А мы... ещё не определились.

Mat
Мастер Слова



11993 сообщений
Послано - 06 Июля 2005 :  21:16:41  Посмотреть инфо об авторе  Посетить домашнюю страницу Mat Посмотреть читательский профиль  Получить ссылку на сообщение  Ответить с цитатой
Цитата:
Природа своей цели достигла и может сокращаться :-)
А мы... ещё не определились.

Не, коньяку без нас не выжить ;)

Mat, if you don't mind

Filin
Хранитель


Russia
368 сообщений
Послано - 08 Июля 2005 :  11:58:45  Посмотреть инфо об авторе Посмотреть читательский профиль  Получить ссылку на сообщение  Ответить с цитатой
Цитата:
Ба-а-а-альшая ошибка! Вообще душа не пропорциональна сложности системы. По-вашему, чем сложнее система, тем у нее "душа" больше (шире, толще, ярче, ароматнее или что там еще)?
По моему, когда разум достигает опредленной критической "массы", то происходит качественный скачок. Душа свойство разума не так ли, а не нечто метафизическое и независимое от человека?

Лишь одна звезда светила
В напряженной тишине
И, хихикая, язвила
И подмигивала мне.

Дан
Хранитель года - 2006


Россия
5221 сообщений
Послано - 08 Июля 2005 :  23:33:40  Посмотреть инфо об авторе  Получить ссылку на сообщение  Ответить с цитатой
Я, технарь и материалист до "мозга костей", боюсь, как бы все-таки душа не оказалась чем-то метафизическим, не являющимся тупо производной сложной системы. Вот боюсь и все! Хотя доказательств ни зА ни против привести не могу. Во всяком случае, "конструкция души" никогда не будет доступна человеку, каким (малоизменчивым, с маломеняющимся объемом головного мозга) мы знаем его тысячи лет.

Вообще, здесь еще и проблема лингвистическая, проблема "языка высокого уровня", который не сводится к бинарной системе "да-нет". Что такое душа? Что такое в том смысле, что мы подразумеваем под этим словом?


Доктор Свет

Mastack
Посвященный


Russia
44 сообщений
Послано - 11 Июля 2005 :  21:33:58  Посмотреть инфо об авторе Посмотреть читательский профиль  Получить ссылку на сообщение  Ответить с цитатой
Цитата:
Душа свойство разума не так ли, а не нечто метафизическое и независимое от человека?

Я боюсь, что это разум - свойство души...
А мозг воспринимает сигналы души. Это не означает что мозг не "думает". Думает, причём иногда криво. Но ИМХО, душа имеет ведущую роль.
Цитата:
"конструкция души" никогда не будет доступна человеку

Вот это совершенно точно!

А искин... А кому, простите, он нужен? Гораздо проще создать систему, которая будет управлять, например, кораблём (не обязательно космическим), при этом понимать речь и давать осмысленные ответы. На мой взгляд этого достаточно.

Отредактировано - Mastack on 11 Jul 2005 21:40:48

Дан
Хранитель года - 2006


Россия
5221 сообщений
Послано - 12 Июля 2005 :  00:09:55  Посмотреть инфо об авторе  Получить ссылку на сообщение  Ответить с цитатой
Цитата:
А искин... А кому, простите, он нужен?

Нужен. Нужен для того, чтобы Человек мог гордо выпятить нижнюю губу и самодовольно сказать: "Я крут и велик! Я таки энту фигню сделал!"


Доктор Свет

Mat
Мастер Слова



11993 сообщений
Послано - 12 Июля 2005 :  00:26:24  Посмотреть инфо об авторе  Посетить домашнюю страницу Mat Посмотреть читательский профиль  Получить ссылку на сообщение  Ответить с цитатой
Цитата:
Нужен. Нужен для того, чтобы Человек мог гордо выпятить нижнюю губу и самодовольно сказать: "Я крут и велик! Я таки энту фигню сделал!"

Субъективно - так оно и есть ;).
На практике... много там чего, на практике этой...

- ИИ сможет заменить высокооплачиваемого спеца (того же менеджера) - и не запросит сто килобаксов.

- Даже не будучи ещё умнее человека, ИИ сможет быстрее его обрабатывать информацию. ИИ сможет стать учёным-энциклопедистом - что уже чуть не век, как стало практически невозможно для человека.

- Даже для создания по настоящему интересной игрушки желательно встроить ИИ.

- Пока наш закон не защищает ИИ, мы сможем проводить на них запрещённые на людях эксперименты. Это позволит узнать много нового о массовой психологии, психологических основах экономики и т.п.

- ИИ позволяет создать автономного робота, не нуждающегося в удалённом контроле. Поскольку он, также, не будет нуждаться в еде и воздухе и будет устойчив к радиации и перегрузкам - в одном только освоении космоса цены ему не будет.

И наконец... есть такая возможность, что ИИ не будет создан в ходе соответствующих исследований. Задачи, связанные с сетевой безопасностью и, напротив, с вторжением в чужие сети требуют всё более и более умный инструментарий. И не только они. Где-нибудь через полвека-век, мы можем даже и не заметить, что наши программы уже стали разумными...

Mat, if you don't mind

Тема продолжается на 2 страницах:
  1  2
 
Перейти к:

Ответить на тему "Искусственный разум, хм?!!!!!"

Экран:   
Логин:  
Пароль:  
Авторизовать на форуме:  
Форматирование:   Жирный Курсив Подчеркнуть Зачеркнуть Вставить кавычки Выравнивание по левому краю Центрировать Выравнивание по правому краю Горизонтальная линия Вставить ссылку Вставить E-mail Вставить картинку Вставить цитату Спойлер Вставить список
   
Сообщение:  
* HTML разрешен
* Внутренний язык включен


радость [:)]
радость!!! [:D]
стыд [:I]
язык [:P]
злость [}:)]
подмигивание [;)]
шутка [:o)]
черный глаз [B)]
грусть [:(]
скромность [8)]
шок [:O]
гнев [:(!]
смерть [xx(]
поцелуй [:X]
одобрение [^]
несогласие [V]

  Отметьте для добавления собственной подписи из вашего профайла.
Отметьте для получения ответов по e-mail.
     

Последние 10 сообщений | Активные форумы | Тематические разделы | Хранители | Инквизиторы | Поиск | Вопросы и ответы
© Wilmark Design Пользовательское соглашение
Политика конфиденциальности
Snitz Forums 2001
Русификация: Wilmark Design