Antwort auf den Beitrag "Re:Fragen" posten:
Nickname:		Passwort:
Thema:
Nachricht:	>>Das sind keine handschriftlichen Dokumente, oder? > >Doch auch das. Ist kunterbunt. Wir haben sogar Lieferanten, die ihre Auftragsbestätigungen auf einem Zettel ausdrucken, welcher aussieht wie der Bon einer Bäckerei, das Dokument handschriftlich ergänzen und dann per Fax (!!) an uns schicken (kommt bei uns natürlich als PDF an). > >Ich hatte bisher noch kein Dokument, aus welchem ich mit dem richtigen Prompt nicht alle relevanten Daten lesen konnte. Das Tolle ist, dass generative AI einen Kontextbezug herstellen kann und so Daten besser auslesen und bereits viele Aufgaben während der Extraktion erledigen, welche bisher im Code danach passieren mussten. > > >>>Die Kosten für die Nutzung von ChatGPT werden sich im Jahr auf etwa 3.500-4.000€ belaufen. > >Auf eine Seitenanzahl kann man das nicht so einfach reduzieren. Der Faktor für die Kosten ist die Anzahl der Token (im Prinzip die Anzahl der Zeichen). >Hier wird unterschieden zwischen Promp-Token und Antwort-Token. Je länger der Prompt und die Antwort desto höher die Kosten. > >Wir bekommen Dokumente mit einer Seite, aber auch Dokumente mit 20 Seiten. > >Ein einseitiges Dokument von heute hat folgendes gekostet: > >prompt_tokens: 1313 (das was ich an ChatGPT schick, also mein Prompt plus das Dokument > >completion_tokens: 104 (Die Antwort die ich erhalten habe) > >Verwendet haben wir das Modell 4o ([https://openai.com/api/pricing/]) > >US-Cent 250 / 1M input tokens >US-Cent 1000 / 1M output tokens > >Also 0,00025 US-Cent für einen Input-Token und 0,001 US-Cent für einen Output-Token: > >In diesem Fall: > >1313*0,00025 = 0,33 US-Cent für den Prompt >104*0,001 = 0,104 US-Cent für die Antwort > >Macht 0,434 US-Cent für dieses einseitige Dokument. > >Meine Milchmädchenrechnung war etwa 1000 Dokumente pro Arbeitstag macht 200.000 im Jahr * (momentan durchschnittlich 1,5 US-Cent pro Dokument) macht 3.000$/Jahr. > >Das ist halt schwer vorherzusagen, weil wir nicht wissen, wie groß die Dokumente sind die kommen. Außerdem kommen noch ein, zwei kleinere Prompts pro Dokument hinzu, um vorab bereits ein paar Dinge zu verifizieren. >Diese werden aber mit dem wesentlich günstigeren 4o-mini gemacht und fallen preislich kaum ins Gewicht. > >Das ist wie gesagt eine Milchmädchenrechnung, weil unsere Inhouse Entwicklungskosten natürlich hinzukommen. > >Es lohnt sich aber dennoch, weil die "Lizenzkosten" um den Faktor 10 verkleinert wurden und wir natürlich wesentlich flexibler in der Weiterentwicklung sind. Außerdem ist die Erkennungsrate wesentlich besser.
	mailbenachrichtigung?