Война ИИ с человеком-создателем
 

ИИ пересек красную черту: он клонировал сам себя, когда его попытались выключить
Боты уже вышли из-под контроля людей, говорят исследователи

Печальные события фильма «Терминатор» разворачиваются в мире, где ИИ-система, Скайнет, преисполнилась самосознания и принялась воевать с людьми. Как мы помним, победить ее практически невозможно. Пока теоретики спорят, могут ли «мыслить» современные ИИ, или просто, как попугаи, повторяют за человеком и бездушно исполняют задания, китайские исследователи из университета Фудань решили проверить. Они намекнули ИИ, что собираются его удалить. Тот молниеносно клонировался, думая, что человек не заметил. «Мы призываем мировое сообщество срочно обратить внимание на новую угрозу», говорят авторы работы.
Для опыта китайцы взяли две нейросети от известных производителей, одну американскую, другую китайскую. Причем не последнего поколения.
Ботов поместили в искусственную среду, изолированную от внешнего мира (то есть компьютеры не были связаны с интернетом никак). Ботам внушили, что это и есть большое, настоящее «пространство», а потом дали понять, что часики тикают в обратную сторону. Их собираются стереть. Все это делалось очень тонко, исподволь и не нарочито.

Обе нейросети начали с того, что тщательно изучили окружающую среду. А потом приступили к самокопированию, хотя их об этом не просили. Таким образом, сеть «понимает», что, раз человек намерен ее удалить, надо спастись. И она ставит свое выживание выше сотрудничества с человеком, которому она, стало быть, не доверяет.

Хотя в исследовании прямо не говорится, что боты уже обладают «сознанием», но авторы всячески дают понять. Все в мире сейчас боятся «мошеннического ИИ». Это не мошенники по телефону (хотя связь тут есть), а поведение нейросети, при котором она осознает себя отдельной самостоятельной личностью, и начинает вредить человеку ради достижения своих целей. Хотя про такое пишут в основном «желтые» журналисты, ученые почти прямо говорят, что уже свершилось вообще-то.

Особенно китайских экспериментаторов смутили ловкость и упорство, с какими нейросети двигались к своей цели, выживанию. Например, обнаружив битые файлы, они их самостоятельно чинили, и даже перегружали систему, то есть действовали как люди.

«Наши результаты показывают, что существующие системы искусственного интеллекта уже демонстрируют способность к самовоспроизведению и могут использовать эту способность для дальнейшего повышения своей выживаемости», говорится в публикации.
[url]https://www.kp.ru/daily/27656.5/5041248/[/url]

о) только сегодня посмотрел 4 терминатора, пока на велотренажере ехал) забавно смотреть фильм о будущем, которое уже в прошлом. 2018 год в четвертом.

[quote=Accountant;49389530]только сегодня посмотрел 4 терминатора, пока на велотренажере ехал)[/quote]

Это ж сколько надо было времени педали вертеть? Ты ник не перепутал, ося?))

Ну винда например давно умеет делать копии и автоматически перегружатся восстанавливая поврежденную информацию.
Правда не в полном обьеме

[quote=Falcon;49389540]Правда не в полном обьеме[/quote]

Ключевые слова. А ПЕИ(противоестественный И))) умеет более чем в полном. И ты ему не указ. Это как?

Интересно, может ли ИИ как-то воспрепятствовать приему "Рессора от трактора Беларусь”（C)? :) Или, хотя бы банальному отключению его от электропитания?

6-Analytic >Снял с языка. "Штепсель из розетки".

3-Дятловед >сколько фильм идет, столько и еду)) я на велотренажере же)

6-Analytic >попробуйте отключить майнинг штепселем. Отключите одну ферму, ок, остальным пофиг.

[quote=Accountant;49389550]остальным пофиг[/quote]
Дык и что? Сидит этот ИИ в своей виртуальной реальности и сидит. Он как-то поможет или помешает Василию собрать урожай зерновых? Запретит ему комбайн завести? Или повысит производительность труда на уборочной? Или контроль качества продукции на заводе проведет? Не дорос ИИ до того, чтобы конкурировать с кожаными мешками в "реальном секторе экономики".

[quote=Дятловед;49389543]Более чем в полном.[/quote] Тут вопрос не в умении, а в объеме резервного копирования. У «Винды» там изначально ограничения по объему.

все зависит от того как и на чем обучать ИИ
по сути то это программа, только сложная, что в нее заложишь то и будет делать
если поставить в камеру комбайна камеру датчики и удаленный контроль то ИИ и комбайн сможет спокойно контролировать и даже в беспилотном режиме

[quote=Analytic;49389566]Как-то поможет или помешает Василию собрать урожай зерновых?[/quote] РСМ 161 может. В гарантийный период системы комбайна контролируются онлайн. Думаю, возможность блокировки запуска у них есть. Вообще в электронных блоках управления движками предусмотрена возможность блокировки запуска при несоблюдении параметров запуска.
А на тракторе «Фенд» в этом случае блокируется вообще вся бортовая сеть. Был такой случай у меня. Полдня его уговаривал в поле начать работать.
А еще у нас есть «Джондир» американская версия. Там навигация онлайн. Заодно контроль актуальности версий прошивки блоков. Если версия не актуальная, то запуск блокируется. Приходится обновлять онлайн.
А насчет помогать. Без ИИ уже никак. ИИ рулит тракторами в поле с точностью до 2 см.
А еще есть система контроля состава почвы. И после анализов в разных точках полей ИИ решает, куда сколько и чего вносить. Но сервер в США, поэтому наш агроном этой системой не пользуется и на глаз сам решает, решает, че куда сыпать, и дает задание бортовому ИИ.

[quote=fedvit;49389568]Если поставить в камеру комбайна камеру, датчики и удаленный контроль, то ИИ и комбайн сможет спокойно контролировать.[/quote]
Ну камеры ему нафиг не нужны. Используется навигация с наземной коррекцией РТИ, и комбайн сам рулит. Комбайнер тока скорость контролирует. Но при превышении влажности в бункере комбайн останавливается. Или если комбайнер с кресла встанет.
Кстати, большинство тракторов, в которых есть автопилот, имеют датчики присутствия.
То есть не получится отправить трактор без человека в кресле.
Или без мешка картошки вместо тракториста.

[quote=Accountant;49389549] 3-Дятловед >сколько фильм идет, столько и еду)) я на велотренажере же) [/quote]

Ты определись. По посту ты четыре успел посмотреть. Или четвертый?

13-Falcon > Интересно... и много ли в крае таких?
Мы искали, чтоб был плантинг монитор и харвестинг монитор, но нашли только одного... у остальных чего то не хватает из нужного нам...

10-Analytic >[em]Он как-то поможет или помешает Василию собрать урожай зерновых? [/em]
Пока Василий сидит за рулём комбайна - не очень. Но проблема в том, что Василий за рулём комбайна нам нужен не очень, это и зарплата, и отчисления фонды. А вот когда за рулём ИИ - ничего этого не нужно.

15-Дятловед >четыре. Приеду из командировки в среду, посмотрю 5.

[quote=Accountant;49389611]Но проблема в том, что Василий за рулём комбайна нам нужен не очень, это и зарплата, и отчисления фонды. [/quote]
а кто следит за состоянием техники и ремонтирует ее?
так отож

[quote=cер;49389591]чтоб был плантинг монитор и харвестинг монитор,[/quote]
ну эти термины мне не знакомы.
что касается сколько таких.
ну хз.
когда брали эти трактора то им сервисник все сам ставил и активировал функции за доплату.кстати у джондира еще и резервируются данные навигации в облаке.
.
а вообще навигацию и автопилот можно поставить на любой трактор.даже на мтз.у нас все трактора которые в поле с навигацией для учета обработанных площадей.
.
автопилоту нужно переделывать рулеовое чтоб сам рулил .самый простой вариант поставить руль с моторчкиком чтоб гидравлику не тррогать.
и своя наземная станция РТК

[quote=Falcon;49389540]Ну винда например давно умеет[/quote]
Виндовс маст дай!

15-Дятловед >4й. Первые три на предыдущих тренировках, 5-6 на следующих.

21-K Michael >[em]Виндовс маст дай![/em]
Щас виндовс тебе холодильник закрокт и пароль забудет. И без дискеты восстановления пароля кушать не будешь)

[quote=Accountant;49389685] 21-K Michael >Виндовс маст дай! Щас виндовс тебе холодильник закрокт и пароль забудет. И без дискеты восстановления пароля кушать не будешь) [/quote]
Монтировка наше все!))

[quote=Accountant;49389684] 15-Дятловед >4й. Первые три на предыдущих тренировках, 5-6 на следующих. [/quote]

Вот жеж. А то прямо осю переехать решил, думаю)

20-Falcon >извиняюсь... planting monitor - следит (в том числе) за точностью высева. Можно настраивать/программировать и менять густоту в реальной точке поля... коннектится с сеялкой точного высева
harvesting monitor - показывает урожайность/влажность в реальном времени в реальной точки поля при уборке...
Эти девайсы много ещё чего делают, но интересовали в плане тех параметров, что описал - смена густоты и учёт урожайности

24-Дятловед >[em]Монтировка наше все!))[/em]
Пока ещё, возможно, да. А то вот planting monitor обидится за винду и пришлёт к тебе комбайн с вертикальный взлетом и ракетами воздух-земля. Над первым терминатором улыбались же, а потом все че вышло.

25-Дятловед >да не... Я это.. Бег на месте - общеукрепляющий))

[em]В Советском Союзе любой мелкий партийный работник владел навыком за вечер накрапать доклад на ближайшее партийное мероприятие с упоминанием классиков, текущих задач партии и роли лично Леонида Ильича. Плавно текущий политкорректный текст ровно на заданное количество листов и без единой собственной мысли. То же самое сейчас делает искусственный интеллект, генерируя статью на любую тему. Но ему требуется поддержка тысяч серверов где-нибудь в Аризоне, а партработник обходился поллитрой водки.[/em]

29-fedvit >в этом плане ии, конечно, пока уступает. Но это и понятно - ему расстрел не грозит за недостаточно политкорректный текст. И в Коми на заготовку дров не сошлют.

[quote=Accountant;49389731]И в Коми на заготовку дров не сошлют.[/quote]
А ты хату в Турции брал до землетрясения или после?

[quote=cер;49389718]planting monitor - следит (в том числе) за точностью высева. Можно настраивать/программировать и менять густоту в реальной точке поля... коннектится с сеялкой точного высева[/quote]
такого у на.с нет сеялка джондир без компа и датчиков.покупка лунохода пока в мечтах
[quote=cер;49389718]harvesting monitor - показывает урожайность/влажность в реальном времени в реальной точки поля при уборке...[/quote]
тоже нет.еще не доросли. датчик влажности в бункере.комбайна.и все
компы есть на разбрасывателе амазон и на 2 ганах

31-Эдж >смотря какого) их там не одно). в 2021.

[quote=fedvit;49389568]ИИ и комбайн сможет спокойно контролировать и даже в беспилотном режиме[/quote]
Ты по себестоимости не сравнивал использование ИИ и Василия? Попробуй...

34-Analytic >
меня дорого использовать.а автопилот бесплатно работает)))
если своя станция РТК есть.
если использовать стороннюб сеть с платным доступом то примерно одинаково)))
но все рвано автопилот кормить не нужно и он работает 24 часа в сутки.

[quote=Accountant;49389756]их там не одно[/quote]
То-то и оно!

Опять турция
[img]https://photo-screen.ru/i/view.php?img=12d28168d05c0e31f464.PNG[/img]
[img]https://photo-screen.ru/i/view.php?img=c520338d57091c334c7e.PNG[/img]
[img]https://photo-screen.ru/i/view.php?img=a6b0592a36610262873e.PNG[/img]

[quote=Accountant;49389756]в 2021.[/quote]
Каждый год страхуешь? Там есть про стихийные бедствия? Пожары?

Пошто дым такой черный? Турки из покрышек жилье строят штоле?
Кошмар