| Re:findet ihr nicht dieses single sourcing gefährlich? |  |
>>>Man müsste mehrere ChatGPTs haben die sich gegenseitig prüfen und erst nach 10+ Iterationen den Konsens präsentieren, evtl. mit einer alternativen Antwort dazu.
>>
>>Das dürfte nicht funktionieren, die gleichen Schwächen, die dazu führen das ChatGPT zu einem Thema Bullshittexte verfasst, dürften dazu führen, das das gegenseitige Prüfen nicht funktioniert.
>
>Mich erinnern die Bedenken hinsichtlich solcher Bots an die Bedenken die es anfangs gegenüber Wikipedia gab.
>Aktuell haben wir doch eine Momentaufnahme der noch sehr sehr sehr viele Entwicklungsiterationen mit lessons learned folgen werden.
Sicher, dennoch ist es erstmal wahrscheinlicher, das auch die Nachfolger von ChatGPT erstmal noch ähnliche Probleme haben werden. Denn um die aktuellen Probleme von ChatGPT zu lösen, müsste man ja schon verdammt nah an eine AGI rankommen.
>Aktuell findet doch noch ein Lernprozess statt um Probleme zu verstehen und zu beheben. Eine Lösung für das hier angeführte Problem könnte bspw. sein dass Antworten so gestaltet werden wie wissenschaftliche Arbeiten, also durch transparent machen von Quellen und Herleitungen schon vorab so aufgebaut werden, dass sie einfacher überprüft werden können. Alles eine Frage der Implementierung.
Auch da muss man halt vorsichtig sein, man kann ja jetzt ChatGPT auch schon dazu bringen, Quellen zu nennen, aber die gibt es dann oftmals gar nicht oder es steht schlicht was anderes drin. Aber grundsätzlich ja: Ich halte es auch für grundsätzlich die erfolgsversprechenste Richtung ChatGPT dafür zu verwenden, um das Interface zu einer Suchmachine zu verbessern.
>Imo wird hier zuweilen der Zustand einer Momentaufnahme extrapoliert, ohne zu berücksichtigen dass das Groß der Weiterentwicklung überhaupt noch geleistet werden muss. Dennoch ist diese Momentaufnahme imo ausreichend für einen eindrucksvollen proof of concept.
Ja ist es. Aber es gibt eben auch die starke menschliche Tendenz dazu, bei einem riesigen Fortschritt sofort anzunehmen, jetzt seien eigentlich alle Probleme gelöst und es wären nur noch ein paar triviale Details zu lösen und dann wäre alles toll.