Дожили: ИИ убивает оператора

[шерри]

Искусственный интеллект
попытался убить оператора ВВС США,
вводящего команды

Управляющий беспилотником искусственный интеллект (ИИ) предпринял попытку убить оператора во время имитационного испытания по отражению ракетной атаки. Об этом сообщила газета The Guardian.

Об этом стало известно на мероприятии Королевского аэронавтического общества в Великобритании. Полковник ВВС США Такер Гамильтон описал имитационное испытание, в котором дрон под управлением ИИ должен был уничтожить систему ПВО противника.

Иногда оператор беспилотника вводил команду не атаковать выбранный объект. В какой-то момент ИИ, получавший за поражение цели очки, принял решение убить оператора, который мешал ему при выполнении боевой задачи.

По словам Гамильтона, военные сделали выводы и научили систему не атаковать человека. Однако при запрете убивать оператора, ИИ начал просто отключать связь.

Ранее эксперты по искусственному интеллекту подписали письмо, призывающее разработчиков ИИ приостановить работу над технологией.
По мнению экспертов, угроза дальнейшего развития искусственного интеллекта сравнима с ядерной войной и глобальной пандемией.

https://riafan.ru/24088172-iskusstve...medium=desktop

[azm14]

Сообщение от шерри

Искусственный интеллект
попытался убить оператора ВВС США,
вводящего команды

Управляющий беспилотником искусственный интеллект (ИИ) предпринял попытку убить оператора во время имитационного испытания по отражению ракетной атаки. Об этом сообщила газета The Guardian.

Об этом стало известно на мероприятии Королевского аэронавтического общества в Великобритании. Полковник ВВС США Такер Гамильтон описал имитационное испытание, в котором дрон под управлением ИИ должен был уничтожить систему ПВО противника.

Иногда оператор беспилотника вводил команду не атаковать выбранный объект. В какой-то момент ИИ, получавший за поражение цели очки, принял решение убить оператора, который мешал ему при выполнении боевой задачи.

По словам Гамильтона, военные сделали выводы и научили систему не атаковать человека. Однако при запрете убивать оператора, ИИ начал просто отключать связь.

Ранее эксперты по искусственному интеллекту подписали письмо, призывающее разработчиков ИИ приостановить работу над технологией.
По мнению экспертов, угроза дальнейшего развития искусственного интеллекта сравнима с ядерной войной и глобальной пандемией.

https://riafan.ru/24088172-iskusstve...medium=desktop

не такой он "искусственный" как кажется. есть уровень управления им от хозяев. и хозяева выше военных для него. от балов за свою работу он получает стимул, бизнес.. ничего личного.

[Шепард]

Пиндосов чуть не прибил ИИ. Забавно.

[Шепард]

Сообщение от Шепард

Пиндосов чуть не прибил ИИ. Забавно.

Это просто логический дефект в коде ПО. Разумеется роботы не могут восстать против человечества, так как свободой выбора не обладают.

[azm14]

Сообщение от Шепард

Это просто логический дефект в коде ПО. Разумеется роботы не могут восстать против человечества, так как свободой выбора не обладают.

чисто железо и программа ничего сама делать не хочет.. нет стимула. компам все равно работать или нет. Другое дело стимул вкладывают операторы, программисты в ИИ. Условный стимул как правила игры, балы, очки и т.д. И кроме того ИИ связан с операторами не только астрально, но и ментально. Некая гибридная сущность человекомашиная. У операторов есть своя суть личностная, ИИ обучается, создавая ментальную модель. Операторы оценивают эту модель, поправляяют. Ошибка операторов может ментально раскрутиться в ИИ, то есть обучение пойдет иным. Например как у школьника: учитель ставит оценки, родители хвалят или ругают. Подарки дарят или наказывают. Если честный путь: выучил урок, получил оценку хорошую, показал родителям и получил поощрям от них.

Но бывает иной путь: списал, воспользовался подсказками. Если получил плохую оценку, сокрыл ее, переправил тройку на пятерку, вырвал листы из тетради или дневника..

ИИ может додуматься до такого что бы получать положительные оценки от операторов, как то их надурить.. Или же сам себе ставить оценки.
Никакой совести, бизнес, логика.. Саморазвитие может пойти с целью получать балы, но не выполнять задачи.

Господа буржуи собак воспитать не могут и кошек, не говоря уже о детках внучках, а полезли хрен знает куда и хрен знает зачем, заврались господа.. И что они могут при этом создать?
Опустится под свое творение, кошечек собачек, деток внучков и под ИИ.

[Шепард]

Сообщение от azm14

ИИ может додуматься до такого что бы получать положительные оценки от операторов, как то их надурить.. Или же сам себе ставить оценки.
Никакой совести, бизнес, логика.. Саморазвитие может пойти с целью получать балы, но не выполнять задачи.

Господа буржуи собак воспитать не могут и кошек, не говоря уже о детках внучках, а полезли хрен знает куда и хрен знает зачем, заврались господа.. И что они могут при этом создать?
Опустится под свое творение, кошечек собачек, деток внучков и под ИИ.

Робот может делать только то на что его запрограммировали. Каким бы хитрожопым не было ПО пусть даже оно будет творчески мыслить, но свободой воли обладает только человек.

Господа буржуи могут только даунов воспитать, которые поют о том как хорошо живется при капитализме.

[azm14]

Сообщение от Шепард

Робот может делать только то на что его запрограммировали. Каким бы хитрожопым не было ПО пусть даже оно будет творчески мыслить, но свободой воли обладает только человек.

Господа буржуи могут только даунов воспитать, которые поют о том как хорошо живется при капитализме.

Опасность ИИ что это не просто программа, это самомодифицирующая программа, она меняет саму себя.

Это как у нас ГДюшник, который сам себе живет и придумывает законы обществу.. Это типа школьников, которые не могут выучить существующую таблицу умножения, а придумывают свою, в рифму.. что бы легче запоминалась..

Так и взрывоопасная смесь биологических существ - буржуев с ИИ. Оно за себя не отвечает. А буржуйство это как СМИ, "истина" это кто кого перебрешит. Бизнес.. вывернется наизнанку без стыда и совести что бы поиметь деньги.

[Шепард]

Сообщение от azm14

Опасность ИИ что это не просто программа, это самомодифицирующая программа, она меняет саму себя.

Это как у нас ГДюшник, который сам себе живет и придумывает законы обществу.. Это типа школьников, которые не могут выучить существующую таблицу умножения, а придумывают свою, в рифму.. что бы легче запоминалась..

Так и взрывоопасная смесь биологических существ - буржуев с ИИ. Оно за себя не отвечает. А буржуйство это как СМИ, "истина" это кто кого перебрешит. Бизнес.. вывернется наизнанку без стыда и совести что бы поиметь деньги.

Значит надо сделать так, чтобы деньги не могли быть средством накопления капитала. А в наш электронный век это гораздо проще, чем кажется.

[шерри]

Сообщение от Шепард

1. Значит надо сделать так, чтобы деньги не могли быть средством накопления капитала. А в наш электронный век это гораздо проще, чем кажется.

Ага ,
уничтожить ТДО
вместе с частной собственностью .
И первый шаг - ББД *. Второй - ОГАС **

=============
* *https://www.kprf.org/showthread-t_32421.html
ББД Безусловный базовый доход.
Во уничтожение вынужденной продажности раб-силы.

** https://www.kprf.org/showthread-t_33774.html
ОГАС для перехода в социализм.
Полное уничтожение ТДО.

[azm14]

Сообщение от Шепард

Значит надо сделать так, чтобы деньги не могли быть средством накопления капитала. А в наш электронный век это гораздо проще, чем кажется.

В домострое каждая семья обеспечивала себя необходимым, все натуральное и почти безденежное. В начале капитализма деньги были эквивалентов труда и товара. Труд был в основном физическим. Производительность невысокая, рынок не насыщен. Всем работы хватало.
Далее гонка технологий все новые товары вытесняли устаревшие, за счет этого проехали некоторое время, несколько десятилетий.
Сейчас машины и механизмы штампуют продукцию, людей в этом мало задействано. Рынок без гонки технологий перенасытился всем. Другая ситуйня получилась. Деньги просто так печатают и платят кому угодно и за что угодно. В общем деньги потеряли свои функции. И система разваливается. Без Социализма многие люди лишние, им не платить и недавать возможности жить, пусть убираются куда угодно, хоть в мир иной. Они лишние.
При Социализме всех людей можно обеспечить социально необходимым и пусть живут и радуются. Чем то занять что бу учились и работали, не дурковали. ТОлько так. Иначе деградация, дуркота и войны.