Radzenie sobie z wyzwaniami związanymi z tekstami generowanymi przez sztuczną inteligencję w dyskusjach obywatelskich

When policy making takes place, it’s often accompanied by an opportunity for the public to provide their insights and feedback. In the past, lawmakers have had the hefty task of sifting through unrealistic, mass-produced commentary intended to influence their decisions. In recent years, however, artificial intelligence (AI) has introduced a new challenge. Now, there’s a surge of realistic-looking feedback with no way to trace back to a human source.

Sztuczna inteligencja: miecz obosieczny

Deb Roy, a media arts and sciences professor at MIT and the director of MIT’s Center for Constructive Communication (CCC), recently shone a spotlight on this issue. In his essay published in the ‘Bulletin of the Atomic Scientists’, titled “Who stands behind the words?,” Roy insists that even in the new realm of AI-generated text, there’s still a need for accountability and someone to answer for the words used.

Roy’s concern extends to how AI can be used, not misused, in civic discourse. He co-founded Cortico, a related nonprofit, with the aim of facilitating trust-building group conversations on important societal issues. This happens everywhere from civic meetings and schools to private organizations. While useful tools like AI are utilized to help identify trends in commentary, the process is designed in a way that participants wield the power to override AI-based output at each phase. This ensures that at each stage, a human touch is present and someone is responsible for each public comment.

Fałszywe opinie: maskowanie prawdziwych nastrojów społecznych

Roy’s worry about accountability in AI-generated feedback is not unfounded. Highlighting an instance from 2017, he points out how the Federal Communications Commission was flooded with over 22 million comments, a shocking 18 million of which were found to be fictitious. This is troubling on many levels, primarily because these fake feedback pieces engineered by AI are much more sophisticated: each comment is unique and seems authentic, making it near impossible to distinguish genuine public opinion.

Zamiast jednak całkowicie odrzucać sztuczną inteligencję, Roy opowiada się za odpowiedzialnym wykorzystaniem jej potencjału. Proponuje cztery zasady przewodnie, które mają zapewnić rozliczalność w przypadku tekstów tworzonych przez sztuczną inteligencję: konkretne autorstwo, dokładny i przejrzysty proces, jasne śledzenie pochodzenia oraz szerokie rozłożenie odpowiedzialności zamiast jej koncentracji. Wynikiem tego byłoby umożliwienie uczestnikom przejęcia odpowiedzialności za swoje wkłady wygenerowane przez sztuczną inteligencję, zamiast całkowitego wyeliminowania czynnika ludzkiego.

Another key point Roy brings up is the idea of moving ‘at the speed of trust’ as opposed to the ‘speed of tech’. He stresses the importance of earning community trust and aligning the speed of AI developments with democratic procedures. This way, there’s no risk of decisions being made without the inclusion of public opinion.

W gruncie rzeczy Roy podkreśla konieczność połączenia technologii z nadzorem ludzkim, co pozwoli nam czerpać korzyści ze sztucznej inteligencji, zachowując jednocześnie ostrożność wobec jej potencjału do zakłócania systemów opinii publicznej. Sztuczna inteligencja jest bezsprzecznie potężnym narzędziem, które – stosowane z odpowiednią dozą odpowiedzialności – może znacznie zwiększyć zaangażowanie obywatelskie.

Jeśli Twoja firma rozważa wdrożenie rozwiązań z zakresu automatyzacji opartej na sztucznej inteligencji, możesz dowiedzieć się więcej o tym, jak sztuczna inteligencja może usprawnić działalność Twojej firmy, pod adresem implementi.ai.