Je eigen model
Stel het endpoint, het model en de sleutel van je provider in .env in. Je provider factureert je voor modelaanroepen, en je hebt geen Comma-abonnement, credits of creditcard nodig.
ModelinstellingenComma zelf hosten
Draai Comma op een machine die je zelf beheert. Docker Compose bouwt het uit de opensourcecode, en je data blijft in je eigen databases.
De eerste start
Een voorbeeld. In een terminal kloon je de repository, kopieer je de voorbeeldinstellingen en start je Comma met Docker Compose. Eerst draait de instellingenstap, dan PostgreSQL, Redis, ClickHouse, MinIO en een lokale inbox. Daarna maakt de stack de opslagbuckets aan en bereidt hij de database voor, en als laatste starten de server en de webapp van Comma. Achter de terminal toont een browser op localhost:8080 dat Comma vraagt om de inlogcode die het heeft gestuurd.
Wat er op je machine draait
Een diagram van een self-hosted instantie. Op je machine draaien de webapp, Admin, API en Salix van Comma naast PostgreSQL, Redis, ClickHouse, MinIO en een lokale inbox. Modelaanroepen gaan naar je modelprovider, webzoekopdrachten naar Exa als je de sleutel ervan toevoegt, en op een openbare instantie gaan inlogcodes naar je mailserver.
Eén stack
Docker Compose start de webapp, Admin, API en Salix van Comma naast PostgreSQL, Redis, ClickHouse, MinIO en een lokale inbox.
Je data blijft hier
Je taken, chats en bestanden staan in die databases, op je machine.
Aanroepen gaan waar jij ze heen stuurt
Modelaanroepen gaan naar je provider, webzoekopdrachten naar Exa als je de sleutel ervan toevoegt, en inlogmails naar je mailserver. De stack stuurt geen analytics of traces naar Comma.
Wat jij bepaalt
Code die je kunt lezen en aanpassen
Comma is open source onder AGPL-3.0. Lees de code, pas hem aan en bouw je eigen versie. Elke instantie biedt de broncode van haar eigen build aan.
Bekijken op GitHubStel het open voor je team
Bied de webapp, Admin en de API aan op eigen HTTPS-adressen onder één domein. Voeg een echte mailserver toe voor inlogcodes. Registreren blijft uit tot je het aanzet.
Openbare toegangUpgraden zonder dataverlies
Een upgrade bouwt de code opnieuw en behoudt de vijf volumes met je data en sleutels. Maak er eerst samen een back-up van, en start de volgende release met dezelfde projectnaam.
Upgrades en back-upsGehost of self-hosted
| comma.surf | Self-hosted | |
|---|---|---|
| Draait op | Servers van Comma | Een machine die je zelf beheert |
| Je data | Opgeslagen door Comma | In je eigen databases |
| Modellen | Modellen van Comma, of je eigen sleutel of abonnement | Je provider, of een privémodel per persoon |
| Kosten | Abonnementen en credits | Je machine en je modelaanroepen |
| Cloudcomputer | Eén per Workspace | Standaard uit, vereist Cloudflare |
| Meetingrecorder | Inbegrepen | Niet inbegrepen, aanpasbaar |
| Updates en back-ups | Door Comma | Door jou |
Veelgestelde vragen
Wat heb ik nodig om het te draaien?
Docker Engine met Compose v2.24 of nieuwer, en schijfruimte voor de eerste build, die de benodigde toolchains downloadt. Voor echte modelaanroepen heb je ook een account bij een modelprovider nodig.
Heb ik een Comma-account nodig?
Nee. De stack wordt gebouwd uit de openbare repository, zonder Comma-account en zonder toegangstoken. Je logt in op je eigen instantie met een e-mailcode.
Wat kost een self-hosted instantie?
Comma rekent er niets voor, en je hebt geen abonnement, credits of creditcard nodig. Je betaalt voor de machine waarop het draait. Je modelprovider factureert je voor modelaanroepen, en Exa factureert webzoekopdrachten als je de sleutel ervan toevoegt.
Welke modellen kan ik gebruiken?
Stel in .env één model in voor de hele instantie: het endpoint, de API die het spreekt, het model-ID en een sleutel. Zonder zo'n model voegt iedereen na het inloggen een privémodel toe in ‘Settings’, en aanroepen gaan via het provideraccount van die persoon.
Wat ontbreekt er bij zelf hosten?
De meetingrecorder heeft een runtime nodig die niet in de repository zit. Cloudcomputers staan standaard uit, en nieuwe vereisen een set-up met Cloudflare. Comma kan nog steeds op je eigen computer werken zodra je die koppelt in de apparaatinstellingen.
Wat vraagt de AGPL van mij?
Je mag de code van Comma draaien, bestuderen en aanpassen onder AGPL-3.0. Bied je een aangepaste versie aan anderen aan, houd de broncode dan voor hen beschikbaar. Elke instantie biedt de broncode van haar eigen build al aan op /source.tar.gz.