Google представила архитектуру Titans новый шаг в развитии ИИ

 

Google совершила очередной прорыв в области искусственного интеллекта, представив архитектуру Titans. Эта разработка стала логичным продолжением технологий трансформеров (Transformer), впервые представленных компанией более семи лет назад.

Трансформеры стали основой для многих современных приложений генеративного ИИ, таких как OpenAI ChatGPT. Однако они имеют ограничения, связанные с отсутствием долговременной памяти. Titans устраняет этот недостаток, добавляя нейронные механизмы долговременной и кратковременной памяти. Кроме того, система оснащена «метрикой сюрпризов», позволяющей выделять наиболее значимую информацию.

Модуль долговременной памяти Titans позволяет системе хранить и анализировать огромные объёмы данных. Это похоже на студента, который возвращается к записям для подготовки к экзамену, а не пытается запомнить весь материал сразу. Такой подход повышает эффективность моделей ИИ при решении сложных задач, включая моделирование языка, анализ данных и прогнозирование.

Особенность новой архитектуры — способность расставлять приоритеты и сохранять критически важные данные. Это открывает возможности для применения Titans в науке, медицине и финансах, где требуется анализировать аномалии в больших наборах данных. Например, в медицинской диагностике ИИ сможет быстрее находить отклонения от нормы, сохраняя контекст и точность.

Ранние тесты показали, что Titans сохраняет производительность даже при анализе данных, превышающих 2 млн токенов, тогда как существующие модели снижают точность при увеличении объёма контекста.

Хотя технология находится на ранней стадии, её потенциал огромен. Titans может стать важным шагом в создании систем ИИ, которые ближе всего подходят к человеческому мышлению.

Официальный вебсайт - http://caviral.com

Telegram - https://t.me/ca_viral

Facebook - https://www.facebook.com/groups/2932593840204861

Instagram - https://www.instagram.com/caviral__news/

Twitter - https://twitter.com/CAViralNews

Medium - https://medium.com/@info.caviral

Linkedin - https://www.linkedin.com/in/caviral-website-b66516276/