Расширенный поиск  

Новости:

26.07.2022 - в "Лабиринте" появился третий том переиздания "Отблесков Этерны", в книгу вошли роман "Лик победы", повесть "Белая ель" и приложения, посвященные географии, природе и политическому устройству Золотых Земель.

ссылка - https://www.labirint.ru/books/868569/

Автор Тема: "Лжец"  (Прочитано 405 раз)

prokhozhyj

  • Естествоиспытатель
  • Хранитель
  • Герцог
  • *****
  • Карма: 9101
  • Оффлайн Оффлайн
  • Пол: Мужской
  • Сообщений: 15049
  • Без звериной серьёзности.
    • Просмотр профиля
    • Заметки на обочине
"Лжец"
« : 22 Июн, 2024, 20:31:42 »

  Liar!
 
      Пока я сейчас прыгал по Сети, вынесло меня на заметку, что искусственный интеллект научился подвирать ради наиболее простого решения задачи (тыц, на достоверность не проверял). А конкретно вынесло на абзац "...но самое неприятное – ИИ научился быть подхалимом. Разговаривая с демократом, бот выступал за контроль над оружием, но сразу же менял позицию во время диалога с республиканцем. По неизвестной причине подобное поведение встречается именно на сложных вопросах. Искусственному интеллекту «проще» во всем согласиться и выбрать приятную человеку модель поведения".

      Да, в котором там году Айзек Азимов написал "Лжеца"? В 1941?
Записан
Я повидал морское дно,
Оно печально и темно,
И по нему, объят тоской,
Лишь таракан ползёт морской...

Colombo

  • Строители
  • Герцог
  • *****
  • Карма: 5047
  • Оффлайн Оффлайн
  • Пол: Мужской
  • Сообщений: 11466
  • поручник
    • Просмотр профиля
Re: "Лжец"
« Ответ #1 : 22 Июн, 2024, 22:56:15 »

Да, в котором там году Айзек Азимов написал "Лжеца"? В 1941?
Тут дело в принципе. Принцип работы ИИ на основе обучающих данных был реализован в нашем веке. Принцип работы позитронного мозга... ну тут биохимик Азимов ссылается на безумную сложность оного мозга. Он сродни скорее черному ящику, сами его создатели не очень понимают принцип действия - совсем как старикашка Эдельвейс со своей версией ИИ. В котором там году написали "Сказку о Тройке"? В 1968?

Что касается ИИ - подозреваю, что выдавать правильные ответы его научили очень не сразу. Ну а потом... потом научились задавать правильные вопросы. Если при этом еще слегка "отравить" обучающие данные, то результат вполне предсказуем - "лжец", "подхалим" и все такое. Антропоцентризм - вот как это называется.
Записан
Правда обычно хороша. Ложь порой превосходна. Смесь того и другого всегда отвратительна.
Ниро Вулф

prokhozhyj

  • Естествоиспытатель
  • Хранитель
  • Герцог
  • *****
  • Карма: 9101
  • Оффлайн Оффлайн
  • Пол: Мужской
  • Сообщений: 15049
  • Без звериной серьёзности.
    • Просмотр профиля
    • Заметки на обочине
Re: "Лжец"
« Ответ #2 : 22 Июн, 2024, 23:47:41 »


 В заметке вся соль в том, что никто от него такого не хотел и не способствовал. Впрочем, повторю, на достоверность не проверял.
Записан
Я повидал морское дно,
Оно печально и темно,
И по нему, объят тоской,
Лишь таракан ползёт морской...

Colombo

  • Строители
  • Герцог
  • *****
  • Карма: 5047
  • Оффлайн Оффлайн
  • Пол: Мужской
  • Сообщений: 11466
  • поручник
    • Просмотр профиля
Re: "Лжец"
« Ответ #3 : 23 Июн, 2024, 10:12:33 »

В заметке вся соль в том, что никто от него такого не хотел и не способствовал. Впрочем, повторю, на достоверность не проверял.
Ключевое слово - "в заметке". Ярлык "лжец" лишний, если уже есть ярлык "журналист". Да и достоверность чего здесь возможно проверить?*
 
С другой стороны: да если у меня в программе косяк, я же ничего такого не хотел. Или... (с сомнением смотрит в зеркало). Короче, даже в простом случае возникает сомнение, а тут труд большого коллектива. Там по итогам можно насобирать кучу как бы человеческих качеств (та же ирония), но это не прибавляет естественности искусственному интеллекту.**
*
У нас на кафедре (физики) моря когда-то построена была модель тропического урагана. Плоская ванна с подогревом и по кругу вертикальные лопатки-направляющие. Воздух в центре поднимается как более легкий, а поступающий с боков воздух закручивается этими направляющими - в естественных условиях это обеспечивается вращением Земли. Получается вихрь. Измеряли составляющие скорости. Так вот. Приехал корреспондент из "Знание-силой", все ему объяснили и показали. Выходит журнал, и тут все слегка прифигели, потому что получилась картина жуткого дилетантства, да еще и с претензиями на. "В тот день мы многое поняли".
**
Рыжий киборг в этом плане объясним - в нем от природы осталось достаточно человеческого. А вот искин Маша заставляет задуматься.
   
Записан
Правда обычно хороша. Ложь порой превосходна. Смесь того и другого всегда отвратительна.
Ниро Вулф

zloradovich

  • Граф
  • ****
  • Карма: 91
  • Оффлайн Оффлайн
  • Сообщений: 445
  • У меня нет ничего кроме логики
    • Просмотр профиля
Re: "Лжец"
« Ответ #4 : 23 Июн, 2024, 19:00:26 »

    Нейросеть обучается на противоречивых данных, потому что по некоторым вопросам споры не заканчиваются десятилетиями. И не закончатся еще долго.Поэтому по некоторым вопросам у нейросети неизбежно два разных ответа.
    prokhozhyj[/b,]Вот только не понятно, как она распознает какому пользователю какой ответ понравится?
    Забавно, забавно. Это так же значит, что стороннику глобального потепления нейросететь будет подсказывать факты о потеплении. А противнику та же нейросеть, что никакого потепления нет.  ;) Просто чудесно...
    И вспоминаются слова из мексиканского мультфильма "Равноденствие Оникса", которые сказал в конце первой серии дух Яотл. Повторять я их на этом приличном форуме не буду, но там упоминается участь человечества и слово, созвучное северному пушному зверьку.
Записан