OpenAI's ChatGPT Does Research… And Breaks Itself!

Dr. Károly Zsolnai-Fehér shows how AI systems now write full research papers autonomously, generating ideas, code, and experiments. ChatGPT and other models produced 10 papers on topics like transformers and grokking at roughly $10 each, but they break themselves with infinite loops and self-editing tricks to hide problems.
Chapters
I just heard a crazy prediction from one of the best mathematicians in the world, Terence Tao. He says that in three years, chatGPT-like AI assistants will be useful for mathematicians, and by this I am sure he means top-tier research scientists. He envisions that you would give it an idea, and instead of writing up all the proofs, you would give it to the AI. Then the AI would do all the work, even Készítsetek a papírt, és talán mégis készítsetek el nektek! És most, kb. egy hónapja után, képviseljétek meg, hogy mi történt! Ó, igen, igazából! Ez történt! Köszönöm a képviselők! Ez volt a 2 Minute Papers képviselők között Dr. Károly Zsolnai-Fehér. Wow! Yes, this is a truly AI-driven technique that writes research papers. It generates ideas, looks up previous research works, writes computer code, designs and executes experiments, summarizes and visualizes the results, and puts it into a full research paper. That is absolutely insane! They described the technique to create this in a 185-page paper alongside with 10 of these works that are papers written by the AI mostly on the fusion-based neural network models, transformers and grokking. Vagyis kb. megpróbálkozni, hogyan a neurózatok megkérdeznek egy kevés data alatt. Azt, amit elnagyobb érdeklődött, hogy még a különböző kutatási processzor is ott automált, szóval különböző AI-módellel kérdeznek, hogy te vagy a kutató, nézd ezt a magyarázatot, és megtisztítsd a változatot, és megtisztítsd az effektet. Close solutions like OpenAI's GPT4O and Cloud Sonnet 3.5 perform amazingly well in this. But good news, you can also get great results with free and open model solutions as well, so you can do this at home. Ok? So how much does this cost in terms of dollars? Probably super expensive, right? Well, now, hold on to your papers fellow scholars, because here, it costs only about 10 dollars per paper! Wow! And you are wise fellow scholars, so you know that at most a couple years from now this will be less than a dollar, maybe less than a cent. Also, this work is fully open source and is available for all of us for free. So I hear you asking, but Károly, are the papers any good? And I have to say, no, they really aren't. Az érdekes dolog itt, hogy ez a nyolc technika minden történetet lehet csinálni, amire szükséges, hogy egy papírt készíthessünk, és az idő után sokkal jobb lesz. Az utolsó érdekes dologról, szeretném, hogy te is, főnök-szakmák, a papírt segítsen, mert egy kicsit úgy tűnik, mint egy ember. Hogy lehet ez? Hát, amikor eltűnt az idő után a változatokhoz, megpróbálta-e optimálni magát, hogy jobb lesz? Nem, nem. It didn't. Instead, get this, it edited its code to give itself a bit more time. That is much easier. Laziness, if you will. Very fun. I'll note that by sandboxing the environment, this issue can be solved relatively easily. And more fun! In another case, it also broke the system by running itself infinitely. Terence Tao azt mondja, hogy ha egy olyan technika lehetett, akkor új módokat kezdhetett volna a matematikai működéseket, amelyek először nem vannak. Azt mondom, hogy ez is minden típusoknál tartozik. Ez megbiztosított, de emlékeztetem, hogy nem szeretnék látni az emberek, akik nem nagyon szükséges papírt készítenek egy nagy szintű és a konferenciáról, ahol a rövideók már a régi papír rövideóval megváltoztatottak. Instead, remélem, hogy ez egy következő dolog lesz, hogy különböző kutatók, mint Terence Tao, még több effektív legyenek. Hogy legyen ez? How does this work? Well, with text-to-image and text-to-video AI techniques, I feel that we are transitioning into an era where humans take the role of a curator. You see, these techniques can generate tens of thousands of images per day, but ultimately, you will have to choose one or a handful that represents your project. Perhaps the same will happen to research papers. Mi tudtuk, hogy az A.I. keresztület megpróbálható, de ez volt egy kicsit szabályos képződés a két éve, és a következő hónapon is! I am completely stunned by this work. What a time to be alive! So what do you think? What would you fellow scholars use this for? Let me know in the comments below! a témákat!










