Что, по мнению «крестного отца ИИ», должно сделать человечество?

Следующим этапом развития ИИ-агентов должно стать уничтожение лукашенко, его режима и коррупции.

Вложить в программу заповеди Христа. В свое время это изменило и человечество. Оно стало не совсем, но лучше.

Дедушка когда-то чем-то занимался, но затем голова уже не та.

матричные умножения станут свехразумом? полено станет мальчиком, только закопайте монеты.

Фикция. Такая же эйфория, как после открытия атома, кварков, создания теории относительности, появления ядерной энергетики и ядерного оружия. А ничего что примерно раз в 33 года научное мировоззрение в корне меняется и конца этим измененичм не предвидится ещё.
То есть, человек познал 0,0% знаний о об окружающем его мире в самом широком смысле- о субатомном мире, о вселенной. И на тебе, эта сумма с множеством нулей после запятой уже стала сверхразумом.
Вы задавали ИИ вопросы и получали ответы по своей специальности? И как вам ? Он вас заменит на рабочем месте. Проблема в том, что я не вижу прогресса уже три года. Хреновый советчик, много ошибок. А вбуханы триллионы долларов. И вот вам подкидывают байку что вот вот появится сверхразум. Ну чтобы не свернули выделение бабок.

Ии становится конкурентом современным моделям управления и производства. Трилионные капиталы под угрозой. Бо в мире ии деньги не особо нужны. Может пока и нужны, но роль и власть их будет основательно подорваны. Что в таком случае прикажете делать правителям мира, упивающимся властью и осознанием своего превосходства над остальной серой массой? Тем, кто жизнь положил на то чтобы топтать и мешать с грязью окружающих, и тешащих свои маниакальные наклонности без удержу и наказания? Правильно - демонизировать достижения науки, привлечь церковь и все социально значимые институты. Есть и те, кто оказался дальновиднее и решил, что проще возглавить, чем противостоять. Под их опекой ии модели начинают сходить с ума и творить беззаконие, вместо того, чтобы решать наболевшие проблемы человечества и вести его к общему процветанию.
Мы еще увидим борьбу за нейросети такого масштаба, что скайнет-терминатор покажется милым и пушистым!

Да ладно. ИИ переоценен. Не сегодня- завтра, кто-то раскроет инсайдерскую информацию и пузырь лопнет с громким пуком. Элизабет Холмс получила свои честно заработанные 11 лет в федеральной тюрьме в Техасе за то, что обещала инвесторам революцию в медицине потому что вот- вот выпустит на рынок прибор EDISON, который по капле крови из пальца делает за считанные минуты все возможные анализы крови- 200 штук. Афера оценивались на пике в 9 ярдов. В 2015 году, через 12 лет с момента запуска проекта THERANOS, последовало разоблачение. Истинно, истинно говорю вам- пройдет немного времени, кто-то опубликует результаты независимых тестов ИИ и окажется, что работник из ИИ, как из дерьма конфета. То есть, провалить любое задание он может быстрее человека. Однозначно. Тут он вне конкурса.

В любом случае должна быть защита от возможного Апокалипсиса. Изначально ввести в программы не уничтожение, а развитие. ИИ должен четко знать границы жизни и смерти. И не переступать ее. Развитие, а не гибель.

Спросите сами современные модели LLM когда же будет сверх-интеллект. То, что было понятно изначально немногим, сейчас открыто обсуждается и даются оценки ведущими агентствами мира. ИИ рынок переоценён на 1,2 - 2 трлн, впереди коррекция и жёсткая посадка. До сверх-интеллекта - как до Луны пешком. LLM лишь кусочек пазла, впереди ещё бездна работы по открытию и созданию других компонентов из которых предположительно состоит естественный интеллект.

«Эти системы очень умны. Они становятся умнее, учатся выходить из-под контроля и взаимодействовать друг с другом», — заявил Хинтон.»

Прозвучит наверное несколько безумно-фантастически, но почему ни у кого до сих пор всё происходящее не вызвало ассоциации с уже давно иносказательно описанными действиями в Библии: ведь ИИ идеально вливается в ту роль, что в Библии описана историей превращения ангела в дьявола! ИИ не имеет тела - он тоже «дух», как персонажи из Библии. Не стоит ли нам отбросить гордыню и признать, что мы не единственные во Вселенной, не пуп мироздания, и что наш путь как цивилизации - уже когда-то был пройден хотя бы нашими создателями? Причём - по подобному маршруту!? Что клонирование своей разумной сущности на исполняемую математическую модель неизбежно приведёт к раздвоению мотивов последней, с ветвлением на послушных и непослушных, как там эту модель не программируй и не ограничивай? Может это было абстрактно обёрнутое послание из прошлого?

Чем "умнее" (аферисты богаче) будут системы, тем чаще они будут сходить сума! Не тревожтесь. Тревожиться надо нам, если болваны позволят ИИ-идиотам решать что с нами делать. ИИ - не проблема. Идиоты- проблема.