Официальный форум Веры Камши
Наша жизнь и наши праздники => Обо всем => Тема начата: prokhozhyj от 22 Июн, 2024, 20:31:42
-
Liar!
Пока я сейчас прыгал по Сети, вынесло меня на заметку, что искусственный интеллект научился подвирать ради наиболее простого решения задачи (тыц (https://hi-tech.mail.ru/news/111411-iskusstvennyj-intellekt-budet-vrat-i-zhulnichat), на достоверность не проверял). А конкретно вынесло на абзац "...но самое неприятное – ИИ научился быть подхалимом. Разговаривая с демократом, бот выступал за контроль над оружием, но сразу же менял позицию во время диалога с республиканцем. По неизвестной причине подобное поведение встречается именно на сложных вопросах. Искусственному интеллекту «проще» во всем согласиться и выбрать приятную человеку модель поведения".
Да, в котором там году Айзек Азимов написал "Лжеца"? В 1941?
-
Да, в котором там году Айзек Азимов написал "Лжеца"? В 1941?
Тут дело в принципе. Принцип работы ИИ на основе обучающих данных был реализован в нашем веке. Принцип работы позитронного мозга... ну тут биохимик Азимов ссылается на безумную сложность оного мозга. Он сродни скорее черному ящику, сами его создатели не очень понимают принцип действия - совсем как старикашка Эдельвейс со своей версией ИИ. В котором там году написали "Сказку о Тройке"? В 1968?
Что касается ИИ - подозреваю, что выдавать правильные ответы его научили очень не сразу. Ну а потом... потом научились задавать правильные вопросы. Если при этом еще слегка "отравить" обучающие данные, то результат вполне предсказуем - "лжец", "подхалим" и все такое. Антропоцентризм - вот как это называется.
-
В заметке вся соль в том, что никто от него такого не хотел и не способствовал. Впрочем, повторю, на достоверность не проверял.
-
В заметке вся соль в том, что никто от него такого не хотел и не способствовал. Впрочем, повторю, на достоверность не проверял.
Ключевое слово - "в заметке". Ярлык "лжец" лишний, если уже есть ярлык "журналист". Да и достоверность чего здесь возможно проверить?*
С другой стороны: да если у меня в программе косяк, я же ничего такого не хотел. Или... (с сомнением смотрит в зеркало). Короче, даже в простом случае возникает сомнение, а тут труд большого коллектива. Там по итогам можно насобирать кучу как бы человеческих качеств (та же ирония), но это не прибавляет естественности искусственному интеллекту.**
*У нас на кафедре (физики) моря когда-то построена была модель тропического урагана. Плоская ванна с подогревом и по кругу вертикальные лопатки-направляющие. Воздух в центре поднимается как более легкий, а поступающий с боков воздух закручивается этими направляющими - в естественных условиях это обеспечивается вращением Земли. Получается вихрь. Измеряли составляющие скорости. Так вот. Приехал корреспондент из "Знание-силой", все ему объяснили и показали. Выходит журнал, и тут все слегка прифигели, потому что получилась картина жуткого дилетантства, да еще и с претензиями на. "В тот день мы многое поняли".
Рыжий киборг в этом плане объясним - в нем от природы осталось достаточно человеческого. А вот искин Маша заставляет задуматься.
-
Нейросеть обучается на противоречивых данных, потому что по некоторым вопросам споры не заканчиваются десятилетиями. И не закончатся еще долго.Поэтому по некоторым вопросам у нейросети неизбежно два разных ответа.
prokhozhyj[/b,]Вот только не понятно, как она распознает какому пользователю какой ответ понравится?
Забавно, забавно. Это так же значит, что стороннику глобального потепления нейросететь будет подсказывать факты о потеплении. А противнику та же нейросеть, что никакого потепления нет. ;) Просто чудесно...
И вспоминаются слова из мексиканского мультфильма "Равноденствие Оникса", которые сказал в конце первой серии дух Яотл. Повторять я их на этом приличном форуме не буду, но там упоминается участь человечества и слово, созвучное северному пушному зверьку.