Самые современные модели ИИ начали врать людям
5- 30.09.2024, 8:58
- 5,742
Нейросети не признаются, что чего-то не знают.
папулярнае за тыдзень
- 26.11 Пратэстоўцы ўварваліся ў сталіцу Пакістана, дзе знаходзіцца Лукашэнка 81,680
- 27.11 У Пакістане паказалі лядашчага Лукашэнку 75,732
- 29.11 Лукашэнка даў войскам РФ дарогу ва Украіну: апублікаванае ўнікальнае відэа 68,648
- 28.11 «Пуціну тэрмінова патрэбная дапамога лекараў, гэтым разам усё сур'ёзна» 62,552
- 28.11 По Москве пошла паника 61,586
- 1.12 Лукашенко собираются «кинуть» 56,506
- 28.11 «Лукашэнка апух, ледзь ногі перасоўвае» 53,594
Меркаванне
Азаронак з фальшывым далярам
Двое ў арэшніку і мех у дадатак
Последний рубеж обороны
Есть нюансы
Чтобы сети не врали, в процессе обучения их надо вознаграждать за честные ответы "не знаю", "недостаточно информации, чтобы ответить". Для этого нужны соответствующие датасеты с вопросами на которые нельзя ответить.
АдказацьЭти ответят. Просто для оценки надо нанимать другой ИИ.
АдказацьМне иногда кажется что у всех новоиспечённых технарей внутрях ИИ вместо мозга. Слова правильные, а смысла ноль.
помню ради эксперимента предложили chatGPT решить математическую задачу на комбинаторику. AI выдал неправильный ответ. Каждый раз когда мы указывали на ошибку AI отвечал типа: "согласен, сейчас скорректирую" и снова выдавал чепуху. В общем мы ржали всей нашей командой quant девелоперов :))))
АдказацьИменно. Пытался писать код с помощью разных моделей. Общий вывод: не по коню ноша 🤷♂️
АдказацьНа одну правду найдется огромный, практически бесконечный диапазон неправды. И если приказ дать ответ становится важнее всего, то правды останется очень мало.
АдказацьА там, как и торговле, "выданный ответ" - это результат деятельности (за которую кого-то вознаградят), и ответы такие будут.