Open-Source-Tool zum kollaborativen Ausführen von LLMs
Zugang zu Petals (Kostenlos)
Petals verfügt über Open-Source-Tools zum kollaborativen Betrieb großer Sprachmodelle wie BLOOM-176B – man lädt einen kleinen Teil des Modells, dann arbeitet man mit den anderen Teilen zusammen, um Inferenz oder Feinabstimmung durchzuführen.