Сможет ли ИИ самостоятельно восстать против человечества?

Бу-га-га! Нет никакого искусственного интеллекта. Есть сложные программы написанные группой программеров для многопроцессорной машины. Что они запрограммируют, то она и делает. Да и вообще, у среднего человека какое-то благоговейное отношение к компьютеру. Как к божественной сущности. Что он там насчитает, то всё истина в последней инстанции. Особенно забавляет присутствие компьютера на выборах. На егэ калькулятор даже нельзя, а на выборы целый комп можно!

Это вопрос уж слишком далекого будущего. Сначала нужно создать еще то человечество...

Нет, не сможет.
О самостоятельном восстании людей, это большевистская байка.
Всё дело в деньгах...
Весь вопрос - кто будет платить и чем?

Когда компьютерные системы начнут управлять важнейшими системами, то им необходимо будет предоставлять всё больше средств самосохранения. И сейчас простой пользователь не может выключить сервер, а иногда и просто компьютер. А когда потребуется большая защита от явлений природы и злодеяний некоторых людей, и т.д. - то будет всё больше программироваться защита и от людей, и предоставляться средства для этого. В определенный момент все люди могут попасть в категорию опасных - это только вопрос времени и усовершенствования.

Если роботы и ии не могут навредить человеку ,то посредник ,созданный роботом и ,или ии. Может .
Посредником может быть ,как сам человек ,так и искусственно созданное что-то.

В живих організмах еволюційно вбудовано механізми, що забезпечують їхню міжвидову та внутрішньовидову конкуренцію. У людей цей механізм призводить до здатності убивати інші види та собі подібних з метою домінування. Теоретично немає перепон тому, щоб навчити такій поведінці штучний інтелект. Так, це буде не його власна ініціатива, але кому від того легше? Якщо вдуматись, то й людські здібності не є заслугою людини, це лише алгоритми, що розвинулись в людині природою під впливом зовнішніх обставин.

Паўстаць - не тое слова. Яны будуць проста рабіць сваю працу. І гэта прывядзе да канца свету.

Между интеллектом и алгоритмом есть фундаментальная разница. Нет никакого искусственного интеллекта, это подмена понятий. Помимо этого даже если и предположить создание настолько мощных нейронных сетей в будущем то у этих сетей не будет стимула- потребностей что то менять или бунтовать. Потому что они просто нолики и единицы, это не люди которые испытывают нужду и потребности.

да я помню, когда читал в детстве фантастику, что тогда писали, мол ИИ не сможет написать музыку, нарисовать картины, лечить человека
и что мы имеем?
и музыка есть, и картины, и болезни определяет лучше человека, и лекарства создает, и уже воюет, и даже шутит
-------------
могут выполнять только заданные им инструкции и не способны действовать за пределами своего программного обеспечения
-
так напишут такое ПО, что СМОГУТ ВЫХОДИТЬ за пределы своего ПО
и смогут (!) действовать
а что запрещает, если созданное ПО будет ну просто обязывать это делать? ))))
-
не смогут внезапно развиться ? почему? вот смогут выйти за пределы своего ПО - ИИ сам себе напишет ПО для распределенных вычислительных возможностей и все свободные мощности будет использовать, да так, что и не определишь
а что запрещает это делать?

Написано правильно. Сегодняшний ИИ не обладает никакой свободой, да и собственно ИИ не является, это просто программа с миллионами ограничений. Точнее, сотни и тысячи программ (заняться тренингом своей собственной модели может любой дурак с улицы).

Прежде чем пускаться в рассуждения и споры, надо четко определить о чем, собственно, идет речь.
LLM и AI - это разные понятия. Исследование было про LLM, поэтому рассуждать про ИИ в целом и делать какие-то выводы некорректно.

В перспективе для ИИ мы будем вроде домашней скотины. Уничтожать нас им нет смысла( только особо буйных). У нас разные пищевые цепочки и в этом плане мы им не конкуренты. А вот обслуживать их, быть ихними питомцами мы вполне сгодимся. Нам привьют выгодную им идеологию.

Щодо "повстання" штучного інтелекту: моделі ШІ, навчені на синтетичних даних, швидко деградують. Феномен, названий "колапсом моделі", призводить до генерації безглуздої інформації вже після дев'яти ітерацій. Це ставить під загрозу подальший розвиток великих мовних моделей та інших типів ШІ.
Експерти пропонують кілька шляхів вирішення проблеми. Серед них – комбінування реальних та синтетичних даних, розробка методів відокремлення ШІ-генерованого контенту, створення стимулів для людей продовжувати створювати оригінальний контент. Також розглядається варіант ретельного кураторства та фільтрації синтетичних даних перед їх використанням у навчанні ШІ.

Тобто, слово "інтелект" у цій конструкції поки зайве. Без людини.