boah weiß nicht. grundsätzlich ja, viel blabla, viel dumme presse gerade, viel interesse an gossip und hollywood storys.., aber openai war ja schon sehr restriktiv bis anfang des jahres. zumindest wie ich das aus "nutzersicht" beurteilen kann. gpt-2 war damals schon sehr cool und war lange zeit der gold-standard für generative language models. das ding hatte ja schon 1,5 milliarden paramter (und war damit schon 5 mal so groß wie bert large), bot schn ein paar möglichkeiten und sie haben das komplett free zur verfügung gestellt. aber die ganze generative ai sparte war eher ein nette spielerei und nicht wirklich sinnvoll breit produktiv einsetzbar.
eigentlich hat man sich in der zeit (2017 - geburt der "neuen architekturen" bis 2022) noch sehr stark auf klassifikation, q&a, regression etc. konzentriert (z.b.: liebes modell hier hast du 10000 klassenarbeitsbewertungen von
@Svansen , lern mal die beziehung zwischen text des schülers und benotung). gpt-3 gab es dann ja schon seit mitte 2020 und wurde nie public gemacht, weil openai meinte, dass man damit zu viel quatsch machen kann. es gab dann große open source projekte, das ding nachzubauen, aber die kamen einfach nicht an die performance ran (z.b.
https://huggingface.co/EleutherAI/gpt-j-6b)
boom und dann kam chatgpt + der open source llm hype (zuletzt extrem beeindruckend, z.b.
https://huggingface.co/docs/transformers/main/model_doc/mistral). viel research, viel optimizing, du kannst so ein llama 7b jetzt auf ner rtx3090 (also ner 600-800 euro grafikkarte) zuhause finetunen. das ist schon verrückt. wenn du dich hinsetzt mit ein bisschen zeit, trainierst du jetzt ohne großes ai knowhow ein llm und produzierst die tollsten und authentischsten fishing mails ever. oder du nutzt einfach die spottbillige openai api. der ganze scheiß richtung fake videos, fake voices ist ja auch da. das kann echt jeder halbwegs versierte developer umsetzen. ich weiß gar nicht, wie man in zukunft noch irgendeinem video ohne wasserzeichen oder sonst trauen soll. vllt. wird hier nochmal die blockchain produktiv interessant :d
jetzt kann man natürlich sagen, ja gut, das wäre so oder so gekommen, ohne chatgpt hätte es vllt. 5 jahre länger gedauert. mag alles stimmen und einfangen kann man es sicher auch nicht, aber es ist ja okay, dass einzelne in großen organisationen trotzdem die frage nach veranwortlichkeiten stellen. also klar, du hast jetzt keinen globalen hebel, aber man kann ja trotzdem diskurse mitsteuern und bestimmen. es ist auf jeden fall verrückt, wie viel scheiße man jetzt mit relativ wenig finanziellen mitteln und relativ wenig know-how anstellen kann. mir persönlich macht das schon ein wenig sorgen.
vllt. hab ich dich auch falsch verstanden. bzgl. der altman story alles sehr diffus, aber es ist schon teil der wahrheit, dass man zumindest in der vergangenheit über verantwortung nachgedacht hat. man hätte das alles auch schon vor 2 jahren lostreten können. wer jetzt wie was warum, ist ja auch irgendwo auch egal..
