Печать

[prokhozhyj]

  Liar!
 
      Пока я сейчас прыгал по Сети, вынесло меня на заметку, что искусственный интеллект научился подвирать ради наиболее простого решения задачи (тыц, на достоверность не проверял). А конкретно вынесло на абзац "...но самое неприятное – ИИ научился быть подхалимом. Разговаривая с демократом, бот выступал за контроль над оружием, но сразу же менял позицию во время диалога с республиканцем. По неизвестной причине подобное поведение встречается именно на сложных вопросах. Искусственному интеллекту «проще» во всем согласиться и выбрать приятную человеку модель поведения".

      Да, в котором там году Айзек Азимов написал "Лжеца"? В 1941?

[Colombo]

Да, в котором там году Айзек Азимов написал "Лжеца"? В 1941?

Тут дело в принципе. Принцип работы ИИ на основе обучающих данных был реализован в нашем веке. Принцип работы позитронного мозга... ну тут биохимик Азимов ссылается на безумную сложность оного мозга. Он сродни скорее черному ящику, сами его создатели не очень понимают принцип действия - совсем как старикашка Эдельвейс со своей версией ИИ. В котором там году написали "Сказку о Тройке"? В 1968?

Что касается ИИ - подозреваю, что выдавать правильные ответы его научили очень не сразу. Ну а потом... потом научились задавать правильные вопросы. Если при этом еще слегка "отравить" обучающие данные, то результат вполне предсказуем - "лжец", "подхалим" и все такое. Антропоцентризм - вот как это называется.

[prokhozhyj]

 В заметке вся соль в том, что никто от него такого не хотел и не способствовал. Впрочем, повторю, на достоверность не проверял.

[Colombo]

В заметке вся соль в том, что никто от него такого не хотел и не способствовал. Впрочем, повторю, на достоверность не проверял.

Ключевое слово - "в заметке". Ярлык "лжец" лишний, если уже есть ярлык "журналист". Да и достоверность чего здесь возможно проверить?*
 
С другой стороны: да если у меня в программе косяк, я же ничего такого не хотел. Или... (с сомнением смотрит в зеркало). Короче, даже в простом случае возникает сомнение, а тут труд большого коллектива. Там по итогам можно насобирать кучу как бы человеческих качеств (та же ирония), но это не прибавляет естественности искусственному интеллекту.**
*

У нас на кафедре (физики) моря когда-то построена была модель тропического урагана. Плоская ванна с подогревом и по кругу вертикальные лопатки-направляющие. Воздух в центре поднимается как более легкий, а поступающий с боков воздух закручивается этими направляющими - в естественных условиях это обеспечивается вращением Земли. Получается вихрь. Измеряли составляющие скорости. Так вот. Приехал корреспондент из "Знание-силой", все ему объяснили и показали. Выходит журнал, и тут все слегка прифигели, потому что получилась картина жуткого дилетантства, да еще и с претензиями на. "В тот день мы многое поняли".

**

Рыжий киборг в этом плане объясним - в нем от природы осталось достаточно человеческого. А вот искин Маша заставляет задуматься.

   

[zloradovich]

    Нейросеть обучается на противоречивых данных, потому что по некоторым вопросам споры не заканчиваются десятилетиями. И не закончатся еще долго.Поэтому по некоторым вопросам у нейросети неизбежно два разных ответа.
    prokhozhyj[/b,]Вот только не понятно, как она распознает какому пользователю какой ответ понравится?
    Забавно, забавно. Это так же значит, что стороннику глобального потепления нейросететь будет подсказывать факты о потеплении. А противнику та же нейросеть, что никакого потепления нет.  Просто чудесно...
    И вспоминаются слова из мексиканского мультфильма "Равноденствие Оникса", которые сказал в конце первой серии дух Яотл. Повторять я их на этом приличном форуме не буду, но там упоминается участь человечества и слово, созвучное северному пушному зверьку.