>>5331054

>Даже не знаю что тут сказать

With Artellery, with taratatata!

Что тут написано и о чем тред? Не знаю английского языка, переведите пожалуйста кто знает.

>Unreliable A.I. tools

Хех. Проснулись. Но небось до сих пор предлагают считать, что есть reliable.

>>5331059
Ну хоть шумерский знаешь?

>>5331059
Сгенерированные LLM определители съедобности грибов верны заметно менее чем полностью, но это неочевидно дилетанту как в грибах, так и в LLM. Дальнейшее думаю понятно.

>>5331063
Ага. И это верно немногим менее чем для вообще всего.
Вот завтра соберешься печь печеньки, шасть в интернет за рецептами, а они сгенерированные. И вместо печенек получаешь, скажем, майонез.

>>5331122
В лучшем случае.

Этот тред был создан по ошибке - но пусть будет так.
https://www.zdnet.com/article/telegram-is-offering-some-users-a-free-premium-plan-but-theres-a-huge-risk/
Безумие? Безумие. Хотя сама 2FA через смски - уже безумие, но уже приелось.
А что думает Ычан по сему поводу?

>>5331059
>>5331059
В докладе "Растущий риск: Ненадежные ИИ-инструменты генерируют дезинформацию о грибах", написанном Риком Клейпулом и опубликованном организацией Public Citizen, подробно изложены опасности, возникающие в связи с использованием новейших технологий искусственного интеллекта в области идентификации грибов. Основная идея этого предостерегающего исследования заключается в том, что современные системы ИИ не способны воспроизвести тонкие нюансы реальных навыков, необходимых для различения съедобных и токсичных грибов, задача которой связана с высокими рисками из-за врожденной опасности сбора грибов.

Доклад освещает несколько ключевых моментов, начиная с случаев, когда доверие к технологиям ИИ приводило к серьезным последствиям для здоровья. Освещается явление переполнения рынка Amazon книгами, созданными с помощью ИИ, что побудило компанию ввести ограничения на самостоятельную публикацию, подчеркивая трудности различения достоверной информации в условиях растущей автоматизации. Особенно острая проблема поднята в связи с неправомерным использованием систем OpenAI ChatGPT и DALL-E для создания чат-ботов по идентификации грибов, способных генерировать путающую и опасную дезинформацию.

Основной аргумент доклада касается неотложной необходимости прозрачности и ответственности со стороны компаний, развертывающих эти технологии ИИ. Утверждается, что компании должны не только раскрывать использование ИИ, но и активно напоминать пользователям о ограниченности технологии. В докладе высказывается мнение, что компании должны нести ответственность за ущерб, вызванный полаганием на ложные или обманчивые сведения, генерируемые ИИ, и выступает против использования договорных условий, освобождающих их от ответственности.

Подробный анализ рисков, связанных с ИИ-приложениями для идентификации грибов, рисует тревожную картину. Несмотря на их потенциал как образовательных инструментов, ненадежный характер этих приложений и человеческая тенденция к автоматизированному предвзятому восприятию делают их непригодными в качестве основных ресурсов для сборщиков грибов. Анализ доклада подкреплен результатами исследований австралийских ученых, тестирующих надежность таких приложений, что подчеркивает опасность их использования в критически важных процессах принятия решений.

В докладе критически оценивается появление контента, генерируемого с помощью ИИ, в сфере сбора грибов, особен

>>5331059
>>5331996
енно через платформы вроде Amazon. Описывается ситуация, когда сообщество грибников выразило обеспокоенность по поводу книг, подозреваемых в создании с помощью ИИ, что подтвердилось тестами с использованием программного обеспечения для обнаружения ИИ. Это иллюстрирует более широкую проблему ИИ-генерируемой дезинформации и ее потенциальную способность угрожать жизни людей.

Отчет также затрагивает применение генеративного ИИ для создания реалистичных изображений и текстового контента, связанного с грибами, демонстрируя посредством экспериментов, насколько легко такая технология может производить вводящую в заблуждение информацию. Исследование кастомных версий ChatGPT, предназначенных для идентификации грибов, дополнительно подчеркивает ограничения технологии и риски, связанные с ее преждевременным применением в областях, требующих экспертных знаний.

В заключение "Растущий риск" выступает мощным призывом к более тщательному контролю, регулированию и этическому рассмотрению внедрения технологий ИИ. Он не только выделяет конкретные опасности в контексте сбора грибов, но также стимулирует более широкую рефлексию по поводу последствий неограниченного распространения ИИ в различных сферах. Доклад утверждает незаменимую ценность человеческого опыта и критическую необходимость сбалансированного подхода к интеграции ИИ в нашу жизнь, подчеркивая высокую важность безопасности, точности и надежности в распространении информации.

>>5331996
>>5331997
Но это не точно, ибо сгенерировано большой языковой моделью на основе текста доклада.

Ура! Грибы!

>>5331054
Порфирыч сказал, что он ОП этого треда.

И да, он подтвердил, что ИИ в гугле сделал это нарочно.

>>5331996
>>5331997
>>5331998

Там уже много интересных случаев подобралось. Читал про историю какого-то профессора, который спросил у ChatGPT про себя и узнал, что, оказывается, он помимо всех его реальных заслуг ещё то ли харассил женщин, то ли вообще насильник. В ответ на дальнейшие вопросы нейронка начинала ему предоставлять несуществующие источники.

То есть помимо того, что нейронка может нафантазировать в критических сферах вроде идентификации съедобных и ядовитых грибов, так она ещё и оклеветать может.

>>5332012
И не просто оклеветать, а выдумать несуществующие научные работы и журнальные статьи, и даже написать их.