OpenAI сотрудничает с Common Sense Media для безопасного использования ИИ среди молодого поколения

Компания OpenAI, матерь чат-бота ChatGPT, в сотрудничестве с организацией Common Sense Media инициирует проект, нацеленный на повышение осведомлённости и безопасности в области искусственного интеллекта среди современноймолодёжи и в семьях. Common Sense Media ведет разработку образовательных ресурсов и инструкций, которые помогут осознать возможности и риски, связанные с ИИ.

Исполнительный директор OpenAI Сэм Альтман на недавнем собрании поделился размышлениями о значении этого сотрудничества для облегчения доступа к ИИ детям из неблагополучных семей, уверенный в его позитивном влиянии на их образование и развитие, информирует CNBC.

Кроме того, Common Sense Media выпускает методические материалы и оценочные инструменты, чтобы учителя, родители и дети могли ставить баллы ИИ и осознанно его использовать.

Эти усилия направлены на то, чтобы молодые пользователи могли безопасно осваивать искусственный интеллект и использовать его в образовательных целях, расширять свои перспективы и умения в этой галопом развивающейся сфере.

Common Sense, некоммерческая структура, которая занимается обеспечением безопасности и доступности технологий для подрастающего поколения, работает над созданием системы рейтингов и обзоров ИИ, предназначенной для отцов и матерей, их сыновей и дочерей, а также педагогов, чтобы лучше понять риски и преимущества этой стремительно набирающей популярность технологии. Среди вопросов, волнующих Common Sense, – воспитывает ли ИИ любовь к учёбе, соблюдает ли он права человека и детей и способствует ли эта технология распространению дезинформации.

Цель нового партнерства – создание рекомендаций по ИИ и образовательных материалов для детей, педагогов и родителей, а создание «дружественных семье» больших языковых моделей под брендом GPT, которые соответствуют рейтингу и стандартам Common Sense. Напомним, GPT является основой чат бота ChatGPT от OpenAI, который был запущен в конце 2022 года.

Джим Стейер, гендиректор организации Common Sense Media, подчеркнул в своем выступлении важность образовательных инициатив, разработанных в рамках сотрудничества с OpenAI. Основной целью этих материалов является информирование семей и учебных заведений о безопасных методах использования инструментов искусственного интеллекта онлайн–в частности, ChatGPT. Образовательная программа нацелена на предотвращение нежелательных последствий и на то, чтобы родители и учителя могли совместно работать над созданием безопасной среды для детей при взаимодействии с ИИ.

В понедельник Альтман вкратце, в общих чертах рассказал о партнерстве и об искусственном интеллекте. Он выразил надежду, что инициатива принесет пользу детям, не имеющим доступа к ИИ. По его словам, часть миссии OpenAI заключается в том, чтобы «сделать действительно полезный ИИ доступным и бесплатным».

Ещё в сентябре Craig Newmark Philanthropies, филантропическое подразделение основателя Craigslist, сообщило о выделении 3 миллионов долларов на финансирование инициативы Common Sense AI для внедрения в образование. В то время Крейг Ньюмарк сказал CNBC, что часть его опасений по поводу ИИ касается того, что злоумышленники могут использовать технологию для влияния на информационную экосистему и вызывать недовольство в обществе.
OpenAI и Common Sense не сообщили подробности, как именно LLM будут настраиваться, чтобы помочь педагогам или подросткам. Альтман сказал, что LLM, адаптированные для образовательных целей, помогут подросткам, «которые хотят изучать науку, к примеру, биологию».

«Мы пока не знаем, как именно люди захотят это использовать», – сказал Альтман. Он добавил, что хотел бы видеть мир, в котором «каждый подросток и каждый взрослый будет иметь персонализированный ИИ».

Что касается предстоящих политических выборов и потенциальных рисков, связанных с так называемыми глубокими подделками, которые могут сбить людей с толку, Сэм признал, что сгенерированные ИИ изображения создают проблемы, но сказал: «Я думаю, что люди гораздо более искушены, чем мы представляем. Не стоит верить каждому изображению, которое вы видите».

Он рассказал о том, как OpenAI готовится к возможным способам использования ИИ злоумышленниками.

«Мы организовали большую работу по реагированию. За этим будут очень внимательно следить», – заключил Альтман.

***

В нашем мире искусственный интеллект становится буквально всепроникающим. Поэтому инициативы по обучению и безопасности, выдвинутые в результате сотрудничества OpenAI с Common Sense Media, жизненно необходимы для обеспечения информированного и ответственного подхода к этим технологиям среди подростков и семей.

Создание доступных и понятных образовательных материалов и ресурсов для родителей и учителей не только поможет безопасному использованию ИИ, но и будет способствовать развитию критического мышления и внедрению технологической грамотности у «младого племени». Такие инициативы закладывают основы для будущего, в котором ИИ послужит усилению человеческого потенциала, а не заменит его. Важно продолжать поддерживать и развивать такие программы, чтобы технологии оставались инструментом для создания просветленного и образованного общества.

Сделать репост: