Effektiv lokal chattapp för språkmodeller
MLC Chat är en produktivitetsapp för iPhone som möjliggör lokal chatt med öppna språkmodeller. Användare kan ladda ner och köra modeller direkt på sina enheter utan att vara beroende av internetuppkoppling. Appen är del av det öppna projektet MLC LLM, vilket gör det möjligt att använda olika språkmodeller på en mängd olika hårdvaror. Eftersom allt körs lokalt skyddas användardata och ingen information lagras.
Appen är gratis och erbjuder en plattform för att interagera med språkmodeller på ett smidigt sätt. För att använda MLC Chat krävs tillräckligt med VRAM på enheten, vilket kan variera beroende på den specifika modellen. MLC Chat är utformad för icke-kommersiella ändamål och tillåter användning av modeller som är nedladdade från nätet, under respektive licensvillkor.
