К списку форумов К списку тем
Регистрация    Правила    Главная форума    Поиск   
Имя: Пароль:
Рекомендовать в новости

Глубокое обучение, машинное обучение, искусственный интеллект

BTR
Модератор
0 - 25.02.2015 - 02:14
Есть ли здесь интересующиеся темой? Было бы интересно на регулярной основе вести обсуждение всего, что имеет к ней отношение


1 - 25.02.2015 - 12:55
0-BTR > Мне эта тема очень интересна. Недавно прочитал Р. Пенроуза, "Тени разума". В книге автор доказал, что разум, подобный человеческому, невозможно создать на основе вычислительных алгоритмов.
BTR
Модератор
2 - 26.02.2015 - 15:30
(1) Да, я читал. Но не считаю, что Пенроуз доказал. Он рассматривает "Разум самого гениального математика", то есть возлагает на один бедный мозг ответственность за все поколения человечества. Конечно же, у него ничего и не получается
Гость
3 - 26.02.2015 - 21:34
Цитата:
Сообщение от BTR Посмотреть сообщение
Было бы интересно на регулярной основе
Не получится. Энтузиазм 60-70х стих. И самое главное, зачем?
- Шах сказал,- перевел Хашдрахр,- что мужчины его страны спят с хорошенькими женщинами и производят дешевые и хорошие мозги. Это экономит проволоки столько, что ее хватило бы на тысячу расстояний отсюда до Луны.
Цитата:
Сообщение от megabax Посмотреть сообщение
что разум, подобный человеческому, невозможно создать на основе вычислительных алгоритмов.
Тут некоторое смешение понятий. Достаточно созжать некий исскуственный мозг, способный к самообучению.
Но все ревно, зачем?
BTR
Модератор
4 - 27.02.2015 - 14:33
Теперь новый энтузиазм. Глубокое обучение. Прям бум.

Зачем? Два главных направления. Интеллектуальные ассистенты и автономные интеллектуальные системы. Например автомобили без водителя.
Гость
5 - 27.02.2015 - 14:55
Цитата:
Сообщение от BTR Посмотреть сообщение
Прям бум.
Неча обрашать внимание на очередную шумиху. Все эти нечетные логики, экспертные системы, сети Петри проявление тупика. Надо же чем-то заниматься куче людей с дипломами.
Цитата:
Сообщение от BTR Посмотреть сообщение
Например автомобили без водителя.
Тут интеллекта не надо.
6 - 27.02.2015 - 15:29
2-BTR >
Цитата:
Сообщение от BTR Посмотреть сообщение
Но не считаю, что Пенроуз доказал. Он рассматривает "Разум самого гениального математика"
Вообще то он рассматривает разум математика вообще, не обзаятельно гениально. Если все его доказательства сжать кратко, то можно основная мысль такая: "Согласно теореме Геделя, никакая формальная система не может быть доказана в рамках ее самой. Для этого придется выйти за пределы формальной системы. Аналогичным образом ни один вычислительный алгоритм не может выйти за пределы самого себя. Тоесть, какой бы сложный алгоритм мы не изобрели, компьютер будет тупо выполнять этот алгоритм и никогда "не догадется" отступить от него. Машина не понимает, что она делает, а вот человек, который создает программу для машины, понимает.
7 - 27.02.2015 - 15:33
3-xo57722 >
Цитата:
Сообщение от xo57722 Посмотреть сообщение
Тут некоторое смешение понятий. Достаточно созжать некий исскуственный мозг, способный к самообучению.
Это будет не полноценный осознающий мозг, а лишь его модель, имитация. Имитация отдельных процессов, происходящих в человеческом мозгу.
К впоросу зачем - за тем, что бы освободить людей от рутинной работы и дать им возможность творческой самореализации, например, решать такие важные вопросы, как сделать мир лучше, как построить звездолет и улетеь на альфа центавру и так далее.
Гость
8 - 27.02.2015 - 17:09
Цитата:
Сообщение от megabax Посмотреть сообщение
что бы освободить людей от рутинной работы
для этого очень давно придумали всяческие механизмы. Много нынче безработных строят или хотя-бы проектирует звездные корабли?? И самое главное, зачем лететь к альфе центавра?
9 - 27.02.2015 - 19:12
8-xo57722 > В том то и дело, что пока эти механизмы не могут работать самостоятельно, без людей. Для начала надо создать хотя бы роботов, которые смогу сами себя чинить при поломке.
Цитата:
Сообщение от xo57722 Посмотреть сообщение
зачем лететь к альфе центавра
Полеты к звездам - это самая главная миссия человечества. Когда она осущестивится - это лишь вопрос времени и выживания человечества в будущем.
Гость
10 - 28.02.2015 - 23:14
Цитата:
Сообщение от megabax Посмотреть сообщение
Для начала надо создать хотя бы роботов, которые смогу сами себя чинить при поломке.
Зачем? достаточно сделать нового. И главное, зачем?
"мужчины его страны спят с хорошенькими женщинами и производят дешевые и хорошие мозги"
Цитата:
Сообщение от megabax Посмотреть сообщение
Полеты к звездам - это самая главная миссия человечества.
предлагаю узнать, сколько галактик в видимой части Вселенной и сколько в каждой звёзд. Ресурсов не хватит. Человечество в режиме неолита может прекрасно жить и без экспансии.
BTR
Модератор
11 - 01.03.2015 - 08:20
Цитата:
Сообщение от megabax Посмотреть сообщение
2-BTR > Цитата: Сообщение от BTR Но не считаю, что Пенроуз доказал. Он рассматривает "Разум самого гениального математика" Вообще то он рассматривает разум математика вообще, не обзаятельно гениально. Если все его доказательства сжать кратко, то можно основная мысль такая: "Согласно теореме Геделя, никакая формальная система не может быть доказана в рамках ее самой. Для этого придется выйти за пределы формальной системы. Аналогичным образом ни один вычислительный алгоритм не может выйти за пределы самого себя. Тоесть, какой бы сложный алгоритм мы не изобрели, компьютер будет тупо выполнять этот алгоритм и никогда "не догадется" отступить от него. Машина не понимает, что она делает, а вот человек, который создает программу для машины, понимает.
Пенроуз говорит о мышлении прорыва, но такое мышление не присуще отдельному мозгу в любой момент времени. Прорыв в представлениях накапливается человеком долгими годами и далеко-далеко не каждый человек на прорыв способен. Именно в этом ошибка Пенроуза - рассматривать все человечество, создающее формальные системы долго и кропотливо, в роли одного единственного мозга. Оттого ему и кажется невычислимость мозга. А на самом деле - это вполне обычный брутфорс. Если пересчитать невычислимость в терминах теории вероятностей, ввести энергетический предел вычислений в одной серии и корреляцию серий вычислений, то оказывается, что на популяции в 100 млн. жителей, в среднем на пять поколений достигается один значительный прорыв в надстройке формальной системы. И это примерно соответствует средневековым темпам прогресса в математике.
BTR
Модератор
12 - 01.03.2015 - 08:25
Цитата:
Сообщение от xo57722 Посмотреть сообщение
Цитата: Сообщение от BTR Прям бум. Неча обрашать внимание на очередную шумиху. Все эти нечетные логики, экспертные системы, сети Петри проявление тупика. Надо же чем-то заниматься куче людей с дипломами. Цитата: Сообщение от BTR Например автомобили без водителя. Тут интеллекта не надо.
Даже спорить не буду. Сразу ясно, что Вы от темы интеллекта крайне далеки. Отстали от жизни на тридцать лет. Что Вы знаете про глубокое обучение? При чем здесь нечеткая логика, экспертные системы и сети Петри? Что Вы знаете о HTM и работах Редозубова, например? То, что Вы ничего не знаете о принципах современных систем поиска, обработки больших данных, систем распознавания, технического зрения, понимания слитной устной речи, можно легко предположить.

Понимание человечеством своей собственной сущности (сущности психики) Вам, конечно же, не видится интересной и важной задачей, верное предположение?
13 - 01.03.2015 - 09:11
11-BTR > Мышление прорыва свойственно даже обывателю, только масштаб другой. Кто то изобретает новую математическую формулу и становиться ученым с мировым именем, кто то изобретает новую операционную систему для компьютера и становиться одним из самых богатых людей в мире, а кто то просто блещет обычной бытовой смекалкой, но эконоимческий эффект от смекалки маленький. В чем разница между ученым математиком и дикарем, живущим в джунглях? Кто из них умнее? Первый испольует свой разум для решения математических задач, второй для выживания в ждунглях. Первый не способен на второй и второй на перовое.
Можно написать программу, которая повторяет заранее детерминированные дейсвтия человека, можно написать программу, которая обучается и принимает решения по тем же принципам, что и рационально мыслящий человек. При помощи ИНС можно повторить даже такую задачу мозга, как распознавания образов. Можно запрограммировать даже имитацию эмоций.
Но как запрограммировать интуицию, творчество, смекалку, импровизацию???
14 - 01.03.2015 - 11:24
Цитата:
Сообщение от BTR
Именно в этом ошибка Пенроуза - рассматривать все человечество, создающее формальные системы долго и кропотливо, в роли одного единственного мозга. Оттого ему и кажется невычислимость мозга.
Для алгоритма решаюшим является не параллелизм и не длительность, а принципиальная завершаемость. Задача может быть и простой, не имеющей алгоритмеского решения (алгоритм не завершается за конечное время), но интуитивно понимаемая человеком средних мат. способростей, либо все теоремы арифметики, как у Геделя. Человек (или группа людец) может сделать то, для чего нельзя создать формальную процедуру, причем и доказано это формально и математически, следовательно, опровергнуть это можно тоже только формально, т.е. доказав, что теорема Геделя не верна или показать, что тезис Тьюринга-Черча (о том, что цифровой компьютер является физ. воплощением машины Тьюринга)не имеет под собой достаточных оснований.
Поэтому доказательство Пенроуза, достаточно, сильное
15 - 01.03.2015 - 14:03
Цитата:
Сообщение от megabax Посмотреть сообщение
Но как запрограммировать интуицию, творчество, смекалку, импровизацию???
Это и есть понятие РАЗУМА.
То есть мы вполне уже можем скоро создать системы действующие на уровне некоторых животных (типа птицы или мыши), но до настоящего РАЗУМА ещё очень далеко, потому что так до сих пор и не понятно, что же такое есть разум.
BTR
Модератор
16 - 01.03.2015 - 19:37
(13) Если Вы для начала, задумаетесь, что это такое у человека, то поймете, что программировать здесь ничего и не надо.
BTR
Модератор
17 - 01.03.2015 - 19:41
(14) Вы не поняли. К Вам лично, какое отношение имеет завершаемость? Пенроуз попросту не понимает своей собственной сущности, оттого и доказывает несущественные проблемы. Для человеческой психики формальные системы вообще несущественны. Человек не пользуется формальными системами. Всякий действительный человеческий язык, хоть внешний, хоть внутренний, неполон и противоречив. И моделировать нужно неполные и противоречивые знаковые системы, ни капельки этого не стесняясь.

Всякая формальная система есть лишь подмножество того, чем оперирует психика. А существенным является лишь то, как психика выводит формальные системы из неформальных. И в этом большой проблемы - нет. Как и сложности.
BTR
Модератор
18 - 01.03.2015 - 19:43
(15) "Разум" это неопределенное понятие. И психика человека, на самом деле, не имеет значительных отличий от психики мыши или собаки. Разница, всего лишь, в глубине обобщений. По упрощенной, примитивной оценке, глубина обобщений ребенка 2-3 лет соответствует глубине обобщений собаки, в возрасте 10-12 лет.
19 - 02.03.2015 - 08:32
16-BTR > А кстати, что это такое у человека? Может, просветите меня, какие процессы происходя в мозгу, когда человек просто о чем то догадался? Ну, например, я написал программа для имитации простей шей игрушечной формальной системы:
"1.Набор выражений: {A,B,C**.
2.Формулы: любая последовательность символов данного алфавита.
3.Одна аксиома: AB.
4.Правила вывода: ◦правило 1: из формулы вида mB можно получить mBC.
◦правило 2: из формулы вида Am можно получить Amm.
◦правило 3: подстроку BBB можно заменить на C.
◦правило 4: подстроку CC можно заменить на пустую строку.


где m - любой произвольный символ.

Приведём пример построения вывода:

AB (аксиома), ABB (правило 2), ABBBB (правило 2), ABBBBC (правило 1), ABCC (правило 3), AB (правило 4).

Определите, можно ли получить формулу AC с помощью правил вывода из аксиомы.
"
Моя программа решила эту задачу тупым беребором. Затем я попробовал сформулировать, как бы решал эту задачу человек. Я обратил внимание, что ВВВ можно заменить на C. Но так как Am можно заменить на Amm то из аксиомы AB можно вывести хоть сколько AB...B, в том числе и ABBB, в последсвии замеенив три B на C и получив AC. Но как я додумался до такой последовательности действий? Да фиг знает, просто догадался и все. И какие при этом процессы происходили в моем мозгу?
BTR
Модератор
20 - 02.03.2015 - 09:42
(19) Где это у Вас такое происходит?
У человека изначально и близко ничего похожего нет.

И у человека, и у животных, происходит распознавание признаков (чем проще мозг, тем более генетически обусловлен врожденный объем и слабая изменчивость)

Вы, как и Пенроуз, начинаете с очень высокого уровня обобщений. В результате, Вам просто не понять его происхождения. Хотя механизм обобщения один и тот же, что на уровне простейших рецепторных стимуляций, что на уровне глубоких и сложных абстракций.

Зачем Вам столь заумные задачи? Мозг вырабатывает внутренний язык (онтологию) обобщений (представлений). Мозг же вырабатывает необходимую разрешающую способность признаков.

И все это происходит по причине потребности в энергии (пище, тепле) и безопасности (индивидуальной и коллективной).
Гость
21 - 02.03.2015 - 21:58
Цитата:
Сообщение от BTR Посмотреть сообщение
Понимание человечеством своей собственной сущности (сущности психики) Вам, конечно же, не видится интересной и важной задачей, верное предположение?
Вот я осознал, что мой мозг однопроцессорный. Т.е. крутится в реальном времени только одна задача..., но мое время и ресурсы ограничено и значит надо правильно выбирать задачи, а не гонять агрегат вхолостую.
как то так..)
Гость
22 - 03.03.2015 - 00:14
Цитата:
Сообщение от BTR Посмотреть сообщение
То, что Вы ничего не знаете о принципах современных систем поиска,
Знаю.
Цитата:
Сообщение от BTR Посмотреть сообщение
обработки больших данных,
Знаю. Например о распределённых вычислениях чего-нибудь. И даже нашел полезное у Дуда + не помню кто. Распозавание образов и анализ сцен.
Цитата:
Сообщение от BTR Посмотреть сообщение
Для человеческой психики формальные системы вообще несущественны.
Чиловеческая психика не имеет никакого отношения к формальным системам, а они к ней.
Цитата:
Сообщение от BTR Посмотреть сообщение
При чем здесь нечеткая логика, экспертные системы и сети Петри?
Для примера очередного приступа формализма. Начиналось ещё с пресловутого персептрона, потом нечеткие множества,... Много воды было истолчено.
BTR
Модератор
23 - 03.03.2015 - 05:51
(21) Что именно Вы осознали? В мозге нет ни одного процессора.

(22) Насчет отношения психики к формальным системам - верно
Насчет "приступа формализма" - неверно. Все же почитайте про глубокое обучение что-нибудь, прежде чем безосновательно толковать про дядьку в Киеве.

Проблема персептрона и нейронных сетей с самого начала натыкалась на глобальную проблему их обучения. То есть, очевидно, что нейронная сеть вполне эмулирует работу нервной системы и областей мозга, но как эту сеть обучить - глубокий и нетривиальный вопрос. И оттого, что воды истолкли много, не значит, что ее истолкли там, где нужно. Туда просто не могли подступиться долгие годы. Сейчас подступы обнаруживаются.

Ваша же позиция не находит обоснования. Проще говоря - с чего Вы взяли, что интеллект не может быть исследован и смоделирован?
24 - 03.03.2015 - 10:24
Цитата:
Сообщение от BTR Посмотреть сообщение
(14) Пенроуз попросту не понимает своей собственной сущности, оттого и доказывает несущественные проблемы.
Доказательство Пенроуза как раз тем и интересно, что он, вообще, не погружается в игру словами определения разума. Да, доказательство не рассматривает, что такое разум, но доказывает, что на цифровом компьютере он не воспроизводим.
Цитата:
Для человеческой психики формальные системы вообще
несущественны. Человек не пользуется формальными системами.
Как бы, об этом и речь ;)
Цитата:
Всякий действительный человеческий язык, хоть внешний, хоть внутренний, неполон и противоречив. И моделировать нужно неполные и противоречивые знаковые системы
Это у Лакана была идея, что бессознательное организовано как язык.
Но, это не так, существуют довербальные формы мышления... поэтому смоделировать язык (традиционные задачи -распознование текста, машинный перевод, как-то уже сейчас работают), даже, если смоделировать его хорошо еще не означает смоделировать мышление.
Хотя и тут может вознуть вопрос о том, возможно ли такое?
25 - 03.03.2015 - 10:49
Цитата:
Сообщение от BTR
И все это происходит по причине потребности в энергии (пище, тепле) и безопасности (индивидуальной и коллективной).
То, что психика происходит из тела общепринятая идея.
Есть интересные спекуляции на тему как это происходит у Уильфреда Биона, Винникотта и Кергберга -это психоаналитики. Имхо, пока этому не сопоставлены физиологические процессы мозга - это философия, скорее.
BTR
Модератор
26 - 03.03.2015 - 16:13
(24) Вот как люди думают? Если Пенроуз без понятия, что такое разум, он не может ничего о нем доказать. Еще раз поясняю. Пенроуз доказывает, что вычислительными методами нельзя вычислить невычислимое. Но то, что это невычислимое имеет отношение к разуму, Пенроуз предположил, но не доказал.
BTR
Модератор
27 - 03.03.2015 - 16:15
(25) Отчего же :) Как раз очень даже сопоставлены. Свыше 90% стимулов имеют чисто физиологическое происхождение. Лишь около 8-9% стимулов можно считать психологическими (т.е. абстрагированными от физиологического). При определенной тренировке это соотношение можно немного изменять. Правда погрешность методики 1:50, так что в пределах погрешности это не доказательно.
BTR
Модератор
28 - 03.03.2015 - 16:16
Насчет "невербальных форм мышления" - они и есть внутренний язык. Поэтому "это так".
BTR
Модератор
29 - 03.03.2015 - 16:24
Вы говорите "Как бы, об этом и речь ;)" - но не очень понимаете выводы из этого.

Поскольку человек не оперирует формальными системами (исключением является как раз таковое оперирование, как 0,0000000000000000000000000000001% человеческих усилий и внимания), то и доказательство Пенроуза просто не имеет ни малейшего значения для моделирования интеллекта.

Просто Пенроуз не знает, как возникают формальные системы. Он выбрасывает 100% оснований к этим формальным системам и удивляется - ого, да это не алгоритмизируется!

Искусственный интеллект на основе логики и формальных систем не построить - это очевидно.

Но как и психика (животных и человека, а самое главное - поколения этой психики, в форме генетической и культурной информации), искусственный интеллект может быть построен на статистическом выведении признаков и их обобщений.

Это то, что демонстрирует глубокое обучение. Сеть сама выявляет ключевые наборы признаков и производит сжатие когнитивного опыта. Мышление не имеет никаких других принципов, кроме все того же семантического сжатия информации. Все формальные системы, известные и неизвестные выводятся этим, ровно одним-единственным способом. И у них нет преград вычислимости, потому что в этом сжатии вообще нет вычислений, в которых мог бы быть критерий вычислимости.

Все делает один, крайне тривиальный алгоритм.
Гость
30 - 09.03.2015 - 12:24
Цитата:
Сообщение от BTR Посмотреть сообщение
Все же почитайте про глубокое обучение что-нибудь,
если что-нибудь, берём начало у вики

Глубокое обучение (англ. Deep learning) — набор алгоритмов машинного обучения, которые пытаются моделировать

пытаются
... Несмотря на успешный опыт, для обучения модели потребовалось три дня, что существенно ограничивало применение этого метода.
... Из-за этих проблем нейронные сети в 1990-х годах уступили место методу опорных векторов.

стандартная ситуация: придумать новое, поматросить и забросить.
придумать новое ...
31 - 09.03.2015 - 21:15
Цитата:
Сообщение от BTR Посмотреть сообщение
Поскольку человек не оперирует формальными системами
Цитата:
Сообщение от BTR Посмотреть сообщение
се делает один, крайне тривиальный алгоритм.
:-) Машина Тьюринга (эквивалентная любому алгоритму) определяется как формальная система ( алфавит, аксиомы и правила вывода), соответственно, если есть тривиальный алгоритм и для него есть и "тривиальная" формальная система...
Чтобы спорить с Пенроузом, нужно привлекать, хотя бы, основы дискретной математики, основы теории алгоритмов и формальных систем, а не только буддистские практики....
Цитата:
Сообщение от BTR Посмотреть сообщение
Как раз очень даже сопоставлены. Свыше 90% стимулов имеют чисто физиологическое происхождение. Лишь около 8-9% стимулов можно считать психологическими (т.е. абстрагированными от физиологического).
В конечном итоге - все стимулы имеют физиологическое происхождение...
Тут немного другая проблема...
Вот есть такое понятие, как расщепление (это явление широко наблюдается в клинике пограничных состояний и психоза, к примеру), когда один и тот же объект (и субъект) воспринимается то абсолютно хорошим, то абсолютно плохим....
Вот предполагается, что это явления - нормальная часть развития человека.... но потом (в случае нормального развития) происходит некоторое "вдруг"... вдруг психика (ребенка) понимает, что "плохой" и "хороший" - это один и тот же объект.... происходит интеграция на уровне психики...
Что это значит на уровне психологии... можно ли увидеть этот скачок, как формирования некоторой структуры, видимой на энцефалограмме, к примеру или это происходить невидимо и это, просто, накопление достаточного количества связей между нейронами или "весов" между ними?
Я имела в виду это, когда говорила о связи между психологией и физиологией... И, насколько мне известно, это вопрос, пока, не прояснялся
BTR
Модератор
32 - 10.03.2015 - 14:52
Никто всерьез с Пенроузом и не спорит. Его размышления понятны, но противоестественны. Он рассматривает некий идеальный сферический разум в вакууме. Его исследования непрофессиональны, он дилетант, и сам это с самого начала сознательно утверждает.

Что касается расщепления и интеграции, это гораздо более общие, в действительности, психические процессы.

Что касается алгоритма, то следует осознавать, что алгоритм исполняется на машине тьюринга (или подобной ей модели исполнения алгоритма). Алгоритмов много, но речь идет о вполне конкретном алгоритме обработки данных, подобных тому, что происходит в синапсах нейронной сети. Сам алгоритм тривиален, нетривиальны результаты его работы. Алгоритм генерирует знания и применяет сгенерированные знания для генерации новых (как более общих, так и более конкретных).

И вот, собственно, понимание, что в основе всех явлений психики лежит этот самый, один и тот же, алгоритм (его можно условно назвать анализа-синтеза, либо более точно - статистический генератор различающих признаков и их обобщений) приходит не из анализа произвольных алгоритмов, а из анализа того, что собой представляет любой акт понимания.

Когда я говорю о связи психологии и физиологии, то прежде всего имею в виду физиологические источники понятий, которыми оперирует психика. Необходим очень большой объем конкретных представлений, связанных с физиологическими стимулами, прежде чем сможет сгенерироваться слой абстрактных представлений (онтология, с которой оперирует нефизиологическое мышление)
BTR
Модератор
33 - 12.03.2015 - 09:20
Нашел весьма созвучную моим мыслям идею. Пенроуз доказал, что логика не может быть основой мышления. Логика возникает из основы, этой логики не содержащей.

Но вот то, что Пенроуз этой основы не находит и не понимает, впадая лишь в идею тождественности формальной логики и любой вычислимости, а оттого отыскивая основу вне существующих знаний о психике и даже знаний о физике, ничего не доказывает.

Пенроузу следовало бы рассмотреть лишь два вполне конкретных алгоритма. Один алгоритм - статистическое обобщение символов, с выведением отнологии знаний, другой алгоритм - выведение новых символов, на основе потребности в более глубоком различении обобщений.

Это два смежных алгоритма, которые не решают проблемы комбинаторного взрыва, а всего лишь определяют навигацию в этом самом комбинаторном взрыве, проводя границу познанного и непознанного и определяя направления расширения этой границы в каждом акте познания.


К списку вопросов
Опции темы Поиск в этой теме
Поиск в этой теме:

Расширенный поиск




Copyright ©, Все права защищены