Je eigen AI Model Server draaien met Claris FileMaker 2025.
Met Claris FileMaker 2025 kun je nu je eigen AI Model Server draaien met behulp van lokale infrastructuur. Of je nu tekstgeneratie-, tekst-embedding- of image-embedding-modellen integreert: zelf-hosting geeft je volledige controle over prestaties, kosten en gegevensbeveiliging—zonder afhankelijkheid van de cloud.
In deze blog leer je best practices voor het draaien van een self-hosted AI-server met FileMaker 2025, waaronder:
- Aanbevelingen voor hardware en GPU.
- Tips voor het beheren van modelprestaties en geheugen.
- Belangrijke valkuilen om te vermijden bij het uitrollen van productieklare large language models (LLM’s).
- Richtlijnen voor beveiliging en configuratie.
- Plus: gedetailleerde installatiestappen, modelaanbevelingen en infrastructuurtips vind je in de Claris FileMaker 2025 white paper.
Waarom je eigen AI Model Server draaien?
Als je met gevoelige data werkt, latency wilt verminderen of AI-gedrag wilt fine-tunen, is een self-hosted AI-omgeving ideaal. Belangrijkste voordelen zijn:
- On-premise privacy: Houd gevoelige gegevens binnen je eigen infrastructuur.
- Prestaties: Gebruik dedicated GPU-hardware voor low-latency inference.
- Maatwerk: Kies en fine-tune je eigen LLM’s.
- Kostenbeheersing: Geen cloudkosten per gebruik.
- Compliance: Voldoe aan interne of wettelijke vereisten.
FileMaker 2025 maakt dit proces eenvoudiger door AI-serverbeheer te integreren in de Admin Console, maar een optimale setup vereist nog steeds zorgvuldige configuratie.
Best practices voor self-hosting met FileMaker AI
1. Gebruik een dedicated AI-server.
Het draaien van de AI Model Server op dezelfde machine als FileMaker Server kan prestatieproblemen veroorzaken.
Doe dit:
- Gebruik een aparte fysieke of virtuele machine.
- Zet het AI Services-tabblad uit op je hoofd-FileMaker Server om onbedoeld gebruik te voorkomen.
- Kies de juiste compute-resources op basis van de modelgrootte (meer info hieronder).
2. GPU-acceleratie is vereist.
De Claris AI Model Server ondersteunt geen CPU-only modellen zoals GGUF.
GPU-vereisten:
- Windows/Ubuntu: gebruik NVIDIA GPU’s met CUDA ingeschakeld (minimaal 24 GB VRAM, idealiter 32 GB+ voor grotere modellen).
- macOS: gebruik Apple silicon (M1, M2, M3, M4), en kies of converteer modellen naar het MLX-formaat.
- RAM-advies: 32 GB is een startpunt; 64–96 GB of meer is nodig voor grote LLM’s.
3. Vermijd modelwisselingen tijdens runtime.
De AI Model Server kan per type slechts één model tegelijk laden:
- Eén tekstgeneratiemodel.
- Eén tekst-embeddingmodel.
- Eén image-embeddingmodel.
Als je app twee modellen van hetzelfde type aanroept (bijvoorbeeld twee LLM’s), zal de server telkens modellen opnieuw laden, wat aanzienlijke vertraging oplevert.
4. Balanceer modelgrootte en kwaliteit.
Quantization verkleint modellen en vermindert geheugengebruik, maar kan de outputkwaliteit beïnvloeden.
Aanbevelingen:
- Gebruik 8-bit quantization voor de meeste productieomgevingen.
- Ga niet onder 8-bit tenzij uitgebreid getest.
- Weet dat CUDA-systemen on-the-fly quantization ondersteunen (16 naar 8-bit), maar dat dit veel resources vraagt.
5. Zet token-logging uit in productie.
Het loggen van token-gebruik kan inference vertragen en logbestanden onnodig vullen. Zet dit uit voordat je live gaat.
Beveilig je AI-infrastructuur
Een private AI-server draaien betekent dat jij verantwoordelijk bent voor de beveiliging.
Tips:
- Vereis API-sleutels voor toegang tot je AI-endpoints en Retrieval-Augmented Generation (RAG)-store.
- Installeer een geldig SSL-certificaat (niet het standaard self-signed certificaat) om waarschuwingen te voorkomen en te voldoen aan normen als HIPAA, GDPR en meer.
- Gebruik HTTPS om data in transit te beveiligen.
Wat met retrieval-augmented generation (RAG)?
Als je oplossing RAG bevat, heb je nodig:
- Voldoende geheugen om zowel het model als de RAG-vectorstore te laden.
- Ingeschakelde API-sleutelbescherming om je privédata te beschermen.
RAG wordt uitgebreid behandeld in de FileMaker white paper (download de PDF).
AI Model Server – veelgestelde vragen
Kan ik de AI Model Server draaien op dezelfde machine als FileMaker Server? Technisch wel, maar het wordt afgeraden. Een dedicated machine voorkomt prestatieverlies en verkeerde configuratie.
Kan ik CPU-only modellen gebruiken? Nee, de AI Model Server van FileMaker 2025 ondersteunt geen GGUF of CPU-only modellen.
Wat is de makkelijkste manier om te starten? Gebruik de FileMaker Server 2025 installer op een dedicated Mac met Apple silicon of een Windows/Linux-machine met CUDA-enabled NVIDIA GPU’s.
Is er een UI om modellen te beheren? Ja, de Admin Console in FileMaker 2025 ondersteunt nu modelconfiguratie, -selectie en monitoring.
Volledige handleiding
Wil je installatiescripts, modelaanbevelingen en hardwarebenchmarks? Die vind je allemaal in de AI Model Server white paper. Download hem nu.