Самые современные модели ИИ начали врать людям
5- 30.09.2024, 8:58
- 5,768
Нейросети не признаются, что чего-то не знают.
популярное за неделю
- 15.12 Москва присела от шока 106,666
- 16.12 СМИ Омана показали Лукашенко в неприглядном свете 78,614
- 16.12 «Видели, что из России — отвечали на белорусском языке» 69,232
- 15.12 В Беларуси с Нового года введут ограничения, которые затронут почти каждого 54,006
- 18.12 Оманский позор Лукашенко продолжился 53,040
- 19.12 «Белтелеком» отключит в Беларуси интернет и телевидение 52,188
- 21.12 СМИ: По Киеву ударили ракетами «Искандер» из воздушного пространства Беларуси 49,572
Мнение
У каждого свое 19 декабря
Вспоминайте еще одно слово — дефицит
К гадалке не ходи
Цирк из фильма про Чапаева
Чтобы сети не врали, в процессе обучения их надо вознаграждать за честные ответы "не знаю", "недостаточно информации, чтобы ответить". Для этого нужны соответствующие датасеты с вопросами на которые нельзя ответить.
ОтветитьЭти ответят. Просто для оценки надо нанимать другой ИИ.
ОтветитьМне иногда кажется что у всех новоиспечённых технарей внутрях ИИ вместо мозга. Слова правильные, а смысла ноль.
помню ради эксперимента предложили chatGPT решить математическую задачу на комбинаторику. AI выдал неправильный ответ. Каждый раз когда мы указывали на ошибку AI отвечал типа: "согласен, сейчас скорректирую" и снова выдавал чепуху. В общем мы ржали всей нашей командой quant девелоперов :))))
ОтветитьИменно. Пытался писать код с помощью разных моделей. Общий вывод: не по коню ноша 🤷♂️
ОтветитьНа одну правду найдется огромный, практически бесконечный диапазон неправды. И если приказ дать ответ становится важнее всего, то правды останется очень мало.
ОтветитьА там, как и торговле, "выданный ответ" - это результат деятельности (за которую кого-то вознаградят), и ответы такие будут.