The world we live in is being reshaped by technological innovations, with artificial intelligence standing out as one of the most transformative. Of late, there has been a marked increase in the reliance on AI for acquiring and verifying general information. Large language models (LLMs), such as ChatGPT, Claude, and Gemini, are taking centre stage in this trend. They’ve become the go-to source for news updates for a significant number of US teens and young adults, as observed by the Pew Research Center.
However, this increased dependency on AI for fact-checking poses a bit of an enigma, a phenomenon which the MIT Media Lab tags as the “AI Dependency Paradox.” Through a recent open-access study, the lab draws attention to a worrying trend. While we lean more on technology, such as LLMs, our intrinsic abilities and acuity to fact-check and detect misinformation seem to diminish. Isn’t it intriguing that this trend falls neatly into the broader concept of “deskilling” or “cognitive offloading”?
W badaniu przez cztery tygodnie obserwowano 67 uczestników. Początkowo, korzystając z pomocy sztucznej inteligencji, doskonale radzili sobie z rozpoznawaniem fałszywych wiadomości. Niestety, ich umiejętności gwałtownie spadły w momencie wycofania tego wsparcia. Co zaskakujące, pomimo gorszych wyników niektórzy uczestnicy byli bardziej przekonani o swoich umiejętnościach wykrywania dezinformacji niż wcześniej.
While the team of researchers, including PhD students Anku Rani and Valdemar Danry, agree that LLMs are praiseworthy, they remain adamant about their limitations. They particularly point out the tendency of some participants, termed “Dependency Developers,” to unconsciously switch from active self-reliance to a passive acceptance of AI’s lead.
LLMs, though impressive, are not without fault. The study illustrates their vulnerability to falling prey to errors, especially during emotionally-charged events. Case in point: the spread of misinformation during major happenings like President Trump’s assassination attempt. The reliability of these models is further undermined by the biased or unreliable content used in the training phase.
W badaniu MIT sugeruje się ponadto, że sposób, w jaki sztuczna inteligencja wchodzi w interakcję z użytkownikami, ma ogromny wpływ na jej ogólną skuteczność. Wykorzystanie sztucznej inteligencji do wspierania aktywnego uczenia się, oparte na podejściu zbliżonym do metody sokratejskiej, może poprawić nasze indywidualne umiejętności w zakresie wykrywania fałszywych wiadomości. Takie podejście może jednak spowodować chwilowy spadek wydajności.
Pomimo wniosków wyciągniętych z niniejszego badania, widoczne są jego ograniczenia, takie jak niewielki zbiór danych i zawężony zakres demograficzny. Planowane są szersze badania mające na celu zbadanie strategii interakcji wielokanałowych oraz zróżnicowanych grup badanych. Ostatecznie naukowcy mają nadzieję włączyć narzędzia sztucznej inteligencji do programów nauczania, podkreślając jednocześnie ich nieodłączne ograniczenia.
If you’re curious about the study in more detail, [check out the original article](https://news.mit.edu/2026/consequences-of-relying-on-ai-for-accurate-news-0609).
Chcesz zgłębić świat automatyzacji opartej na sztucznej inteligencji? Czas sprawdzić, co [implementi.ai](https://implementi.ai) może zaoferować Twojej firmie.
Ta strona używa plików cookie.