Для Nextcloud, платформы для совместной работы с открытым исходным кодом, которую используют такие организации, как федеральное правительство Германии и CSIC (крупнейшая государственная исследовательская организация Испании), запуск ИИ на инфраструктуре, управляемой самой организацией, а не через стороннее облако — это лишь одна из составляющих цифрового суверенитета.
Nextcloud также нуждалась в модели, которая отвечала бы требованиям государственных организаций в отношении прозрачности и подотчетности. Olmo 3 получила высший этический рейтинг компании: зеленый. Этот рейтинг требует наличия ПО для обучения и инференса с открытым исходным кодом, обученной модели, которую пользователи могут разместить самостоятельно, а также общедоступных обучающих данных.
Многие клиенты выбирают Nextcloud именно для того, чтобы снизить зависимость от крупных технологических компаний, поэтому компания стремится к тому, чтобы поддерживаемые ею модели ИИ обеспечивали такой же уровень независимости и прозрачности: пользователи должны знать, из чего состоит модель, иметь возможность воспроизвести ее и понимать, как она была создана.
«Мы глубоко верим в четыре свободы свободного программного обеспечения и убеждены, что возможность изучать и воспроизводить процесс создания модели имеет жизненно важное значение», — говорит Марсель Клер (Marcel Klehr), инженер-программист в Nextcloud.
Эта философия определила модели, которые Nextcloud поддерживает с помощью llm2, локального бэкенда LLM, обеспечивающего работу функций ИИ в Nextcloud Assistant, Mail и других приложениях. В зависимости от модели пользователи могут генерировать и улучшать текст, создавать заголовки и извлекать темы — и все это при запуске модели на оборудовании, контролируемом их организацией.
Olmo 3 — одна из моделей, поставляемых Nextcloud в комплекте с llm2. «Мы действительно хотим предложить нашим пользователям модели, которые отвечают этой цели, — говорит Клер. — По этой причине Olmo 3 стала естественным выбором».
Полностью открытая модель, подходящая для локального оборудования
Открытость Olmo была лишь одним из факторов при принятии Nextcloud решения о внедрении этой модели для своих клиентов. Компания также нуждалась в модели, способной эффективно работать на потребительском оборудовании — достаточно экономичной, чтобы обеспечить качественную работу на местах без использования высокопроизводительных графических процессоров.
«Мы не хотим исходить из того, что у наших пользователей легко найдется 16 или даже 32 ГБ видеопамяти, — говорит Клер. — Модель 7B гарантирует, что широкая аудитория получит отличный опыт работы сразу после установки».
Для организации Olmo может быть настроена централизованно через llm2, а затем предоставлена сотрудникам через те инструменты Nextcloud, которыми они уже пользуются. Персоналу не нужно подключаться к Olmo отдельно или переносить свою работу в автономный чат-бот; они могут вызывать модель из Nextcloud Assistant или непосредственно в рамках поддерживаемых рабочих процессов.
Клер отмечает, что такие языковые модели, как Olmo, позволяют пользователям перекладывать повторяющиеся или утомительные задачи на агента Assistant и задавать вопросы о фактах, скрытых в их документах. Другие варианты использования включают в себя создание краткого содержания входящих цепочек писем и длинных видеозвонков после того, как Whisper (модель распознавания речи от OpenAI) их расшифрует, а также напоминания пользователям о необходимости ответить на неотвеченные исходящие письма.
Поскольку Nextcloud предоставляет языковые модели через общий слой обработки текста, администраторы могут развернуть Olmo один раз и распространить одну и ту же полностью открытую модель с самостоятельным размещением на несколько приложений и пользователей.
«Полностью открытые модели, такие как Olmo, создают возможность для появления ИИ, который будет полностью прозрачным, объяснимым, проверяемым и управляемым, — говорит Клер. — До тех пор, пока части системы являются проприетарными, у вас нет полного контроля над вашими данными и результатами работы ИИ».
Для клиентов, балансирующих между конфиденциальностью и локальными вычислительными мощностями
Эти преимущества тесно связаны с потребностями многих организаций, которые уже обслуживает Nextcloud. Среди ее клиентов — государственные ведомства, исследовательские институты и другие структуры, работающие с данными, которые они предпочитают не передавать сторонним поставщикам ИИ. Например, CSIC использует Nextcloud для предоставления примерно 17 000 исследователям среды с самостоятельным размещением для совместного использования и работы с исследовательскими данными.
Для организаций, которым также необходимо удерживать требования инфраструктуры локального ИИ на управляемом уровне, у Olmo 3 7B есть еще одно практическое преимущество — относительно небольшой размер. Модели меньшего размера обычно требуют меньше вычислительных ресурсов, чем гораздо более крупные, что позволяет проще сохранять рабочие нагрузки ИИ на уже эксплуатируемой организацией инфраструктуре, не сталкиваясь с затратами и требованиями к аппаратному обеспечению со стороны значительно более крупных моделей.
«Поскольку наши клиенты выбирают Nextcloud, чтобы стать независимыми от крупных технологических компаний, мы верим, что больший процент наших клиентов стал бы использовать ИИ, если бы это была полностью открытая модель, такая как Olmo, и обладающая столь же высокой производительностью», — говорит Клер.
«И это только начало. Мы работаем над тем, чтобы существенно расширить наши возможности в области ИИ», — говорит Клер.
Возможности, которые Клер хотел бы увидеть в дальнейшем — включая более мощное использование инструментов и мультимодальную поддержку — также совпадают с направлениями, в которые инвестирует Ai2. Мы разрабатываем модели, способные работать с большим количеством типов данных и действовать более автономно, в том числе путем планирования и использования инструментов.
По мере продолжения этой работы в будущих полностью открытых моделях она может расширить спектр рабочих процессов Nextcloud, в которых организации могут получить эти возможности без ущерба для прозрачности, которая изначально привлеклась Nextcloud в Olmo.
