Чат-боты часто генерируют «галлюцинации», то есть неверную или вымышленную информацию, что представляет собой серьезную проблему для таких компаний, как Google. Чтобы решить эту проблему, Google запустил инструмент DataGemma, который повышает точность языковых моделей за счет проверки и цитирования их ответов с помощью достоверных данных.
DataGemma использует два основных метода для повышения достоверности ответов.
Два метода DataGemma:
- Извлечение-чередование генерации (RIG): После получения предварительного ответа RIG проверяет, какие части могут быть подтверждены, с помощью Google Data Commons, базы данных со статистикой из надежных источников, таких как ООН и CDC.
- Инструмент заменяет неверную информацию проверенными данными и приводит использованные источники.
- Извлечение-дополненная генерация (RAG): Этот метод ищет в Data Commons соответствующие данные для получения точного ответа.
- Например, при анализе прогресса Пакистана в достижении глобальных целей в области здравоохранения модель использует доступные данные общественного здравоохранения и цитирует источники.
Хотя DataGemma может повысить надежность ИИ, она сталкивается с некоторыми ограничениями. Полезность RIG и RAG ограничена объемом Data Commons, который не охватывает все типы информации.
Инструмент Google для повышения точности искусственного интеллекта по-прежнему имеет ограничения (Изображение: rafapress/Shutterstock)
Читать далее:
- 5 советов, как защитить себя при использовании ChatGPT, Google Gemini и других ИИ
- Google AI создает подкаст на основе того, что вы пишете
- Узнайте о преимуществах использования Gemini вместо Google Assistant на своем мобильном телефоне.
Тесты показали, что RIG не смог найти полезные данные в 75% случаев, а RAG имел долю неправильных ответов от 6% до 20%. Точность DataGemma должна улучшиться за счет большего количества данных и обучения.
В настоящее время этот инструмент доступен только исследователям, но в будущем инструмент может расшириться, что потенциально улучшит интеграцию ИИ в поисковую систему Google.
Прем Рамасвами, глава отдела Data Commons в Google, говорит, что инструмент призван сделать ИИ более надежным и безопасным, и планирует расширить набор данных и усовершенствовать модель.
Google намерен повысить эффективность DataGemma за счет дополнительного обучения (Изображение: Danishch/Shutterstock)
Пост Google запускает ИИ, целью которого является улучшение… ИИ! впервые появился на Olhar Digital.