К вопросу о развитии (взгляд амёбы)

[sergeyr]

"Предсказания" (типа хербертовкого) о том, что человек как вид должен развивать свой разум, чтобы его не перегнали [ущербные*] компьютеры, подобны "стремлению" амёбы к тому, чтобы стать разумной. "Наивные девичьи мечты", короче. Амёбы существуют - и развиваются - миллиарды лет, но разум возникает не в амёбах и прочих примитивных одноклеточных, как бы они ни эволюционировали. Причём по меркам одноклеточных вся та эволюция многоклеточных, которая привела к возникновению человека - это довольно быстрый процесс, а возникновение человека как вида - просто незаметное мгновение. Так и возникновение "сверхразума", на мой взгляд, почти неизбежно будет по нашим меркам событием практически мгновенным, мы попросту не успеем на него среагировать до того, как лавина последствий вытеснит нас на периферию основной линии развития. Возможно, после этого мы будем жить ещё долго (по нашим меркам, опять же). А возможно - не будем. Это от нас уже будет мало зависеть. С этой мыслью, на мой взгляд, пора свыкаться уже сейчас, чтобы потом, когда оно таки случится, это не стало шоком.
И ещё один момент, на этот раз, как мне кажется, неосознанно угаданный всеми фантастами (исключеий я не знаю). Нас (людей) даже сейчас, после всех демографических взрывов, очень мало в сравнении с совершенно раблезианской численностью всяких примитивных одноклеточных. По той же причине и сверхразумов будет, вероятно, намного меньше, чем нас. Мне даже кажется что изначально он будет один, но это уже непринципиально.

* Причины, по которым компьютеры считаются иногда принципиально ущербными, мне неясны - полагаю, это просто форма ксенофобии.

Comments

[chernidar.livejournal.com]

варіант
компи можуть бути ущербними апріорі через те, що людьми в них закладаються певні штучні обмеження, а також через те, що їх функціональність наперед визначена

ЗІ
зі святами!

[sergeyr.livejournal.com]

Але ж це ознака не компьютерів як класу, а лише тих екземплярів, що під цей варіант потрапляють.

Дякую, тебе також.

[chernidar.livejournal.com]

але ж це оджна із умов створення компів!

[sergeyr.livejournal.com]

Чому це?

[sofiamor.livejournal.com]

С Праздником!

Читала вчера статью про IBM, там забавно отмечается, что представления о возможностях компьютеров в 70-е годы были вообще фантастические. И компы даже сейчас не умеют и половины того, что о них тогда думали =) Так что, думаю, пока что эти рассуждения несколько поверхностны... Мы даже возможностей своих мозгов не знаем, при всей нашей ущербности, и безо всякого доп. развития.

[sergeyr.livejournal.com]

Некоторые прогнозы были "перепрыгивающими", некоторые - наоборот. Это неизбежное свойство прогнозов.

[igdrazil.livejournal.com]

"Причины, по которым компьютеры считаются иногда принципиально ущербными, мне неясны - полагаю, это просто форма ксенофобии."
Ну, чому ж незрозумілі, це саме ксенофобія і є. Людина є мірило всіх речей. Так є, так має бути.

[sergeyr.livejournal.com]

Не для всіх. B-)
Для мене мірилом всіх речей є жива розумна істота. Якщо я не знаю жодних інших розумних істот, крім людини, то це ще не означає, що я повинен свідомо обмежуватись в цьому відношенні.

[igdrazil.livejournal.com]

Обмеження це основа буття. Так, що можна себе звісно не обмежувати, але буд ласка яка висота стелі в твоїй квартирі в розумних живих істотах?

P.S. А компьютери то неживі.

[sergeyr.livejournal.com]

> Обмеження це основа буття.

Як і подолання обмежень.
Заздалегідь ніколи не ясно які обмеження можна подолати, а які - ні. Тому я зійві обмеження постулювати не хочу.

> А компьютери то неживі.

Зараз - так.

[jaerraeth.livejournal.com]

Компьютер принципиально ограничен и ущербен. Он так построен. С жестко заданной функциональностью для выполнения конкретных операций.
Можно ли построить компьютер, функциональность которого не будет жестко задана, с возможностью саморазвития? Теоретически - быть может, на практике - нет, пока не расшифрована структурная схема человеческой ЦНС. Короче говоря, компьютерного разума не будет как минимум до тех пор, пока мы не разберемся, почему разумен человек, и не придадим компьютеру сборку аналогичного характера.
Это шаг первый.
А шаг второй - разум человеческий есть все же продукт социального взаимодействия, реальные маугли - таки не разумны. Поэтому одной сборки "согласно системе" мало...

[sergeyr.livejournal.com]

> Компьютер принципиально ограничен и ущербен
...
> Теоретически - быть может, на практике - нет, пока не расшифрована
> структурная схема человеческой ЦНС

Так "принципиально" или "пока не расшифрована"? B-)
Вот в этом всё и дело.

Потом, как я уже писал (и я тут отнюдь не первый и даже не тысячный) - ИИ может возникнуть и сам, или частично сам.

> Поэтому одной сборки "согласно системе" мало...

Верно. Об этом в моём предыдущем посте на эту тему тоже кусочек есть - мы имеем шанс перестроиться, влить своё "социальное содержание" в эти новые разумы, и таким макаром в каком-то смысле выжить. Но не как организмы.

[jaerraeth.livejournal.com]

Компьютер - принципиально.
То, что теоретически может быть построено, "имея в виду" гибкую саморазвивающуюся схему типа человеческой ЦНС, от компьютера будет отлично гораздо сильнее, чем нынешний Пень-триатлон отличается от махины Бэббеджа.

Чтобы настоящий ИИ (а не тот класс экспертных систем, который носит ныне столь громкое название) возник сам или частично сам - ему нужна ПЛАТФОРМА. Вышеописанных возможностей. Он необязательно возникнет и на ней, но без нее ничего похожего точно не будет.

[sergeyr.livejournal.com]

Отличен - да, но не факт что он не будт называться всё тем же словом - компьютер. И пока это не факт, априори утверждать ущербность компьютеров - это как-то странно, на мой взгляд.

[apanchenko.livejournal.com]

Серёга, спасибо за этот пост!
Амёбы никак не воспринимают человека и его деятельность. Они живут в своём мире.. Возможно мы живём, развиваемся не зная о популяции сверхразумных существ.

По поводу компьютеров - люди говорящие о ущербности компьютеров напоминают расистов. Я пару дней назад был в музее Дарвина - там то же самое - тушки животных собраны в кучки под стеклом и аккуратно отсортированы. Основная идея которую хотел донести автор - человек вершина эволюции. Противно.
Уже сейчас (я программист не знаю что такое ЦНС!) компьютеры играют огромную роль в нашей жизни. Дальше будет больше. Люди живут в симбиозе с компьютерами. Но это не значит что от этого лучше абсолютно всем людям. Компьютер может быть и оружием.
Теперь представьте современную человеческую войну. Компьютеры рассчитывают траектории ракет, компьютеры моделируют бой, в воздухе беспилотные разведчики, по земле двигаются беспилотные танки. В белом доме сидит человек и решает начинать новую войну или подождать ещё (решает на основании данных экономического анализа обработанного компьютерами).
Компьютер - инструмент но из этого не следует его ущербность. Рассматривать ограниченность человека отдельно от компьютера или компьютер отдельно от человека не имеет смысла в силу их нераздельного сосуществования.

[yanek.livejournal.com]

Ну, может компы и не ущербные, но из этого не следует, что эти многоступенчатые калькуляторы могут стать вровень с человеком.

[sergeyr.livejournal.com]

С неизбежностью - не следует, но ниоткуда не следует и что не могут (если не вводить в качестве аксиомы, что то, что встанет вровень с человеком - будет называться иначе).

[gnuzzz.livejournal.com]

Так и возникновение "сверхразума", на мой взгляд, почти неизбежно будет по нашим меркам событием практически мгновенным, мы попросту не успеем на него среагировать до того, как лавина последствий вытеснит нас на периферию основной линии развития.
"Технологическая сингулярность", угу

[sergeyr.livejournal.com]

Ага. Я Винджа люблю именно за то, что он этой мыслью лупит по голове чуть ли не в каждой вещи - чтобы читатели свыклись, даже если не хотят.

[gnuzzz.livejournal.com]

* Причины, по которым компьютеры считаются иногда принципиально ущербными, мне неясны - полагаю, это просто форма ксенофобии.
Это вопрос определения - что именно понимать под словом "компьютер". Если определять его как "универсальная машина Тьюринга" то да, такой компьютер принципиально ограничен.
Но это все равно что задаваться вопросом "являются ли живые существа принципиально ограниченными, если живое существо - это одноклеточный организм?"
А вот если компьютер определить как "искусственный объект для обработки информации", то тут уже возможны варианты...

[sergeyr.livejournal.com]

Как и во всех спорах об определениях, суть этого спора - в том, насколько близко понимание термина оппонентами к общепринятому в той среде, которая для них общая.
Вот с компами, imho, всё очень просто, потому что в околофутуристических темах постоянно всплывает слово "биокомпьютеры", что явную указывает на то, что слово "компьютер" распространяется даже не только на искусственные объекты.

[gnuzzz.livejournal.com]

ну "биокомпьютер", имхо, тоже искусственный объект (тут можно развести флейм вокруг слова "искусственный": "искусственный" - "естественный", "биологический" - "небиологический" (какой бы синоним, не основанный на отрицании подобрать?) и т.п.)

[dragon-ru.livejournal.com]

Да ну?! Личность человека - это инфориационная система. Причин для того, чтобы система, использующая ее в качестве основы, проигрывала создаваемой с нуля, я не вижу. Разве что ограничение на скорость изменений из соображений сохранения самотождественности. Так оно по-любому возникнет.

[sergeyr.livejournal.com]

Вопрос - удастся ли эту систему перенести куда-либо до того, как возникнет нечто более могущественное.

[dragon-ru.livejournal.com]

А еще вопрос - не удастся ли догнать потом, с помощью ИскИнов.