Wpadka związana ze sztuczną inteligencją: prawnik ukarany grzywną za wykorzystanie sfabrykowanego zeznania w apelacji w sprawie o morderstwo

W związku z głośną sprawą rozstrzygniętą przez Sąd Najwyższy stanu Nowy Meksyk wybuchła burzliwa debata na temat ryzykownych konsekwencji stosowania sztucznej inteligencji (AI) w dziedzinie prawa. Sąd nałożył sankcje na adwokata za wykorzystanie treści wygenerowanych przez sztuczną inteligencję w piśmie procesowym — decyzja ta wywołała spore poruszenie zarówno wśród przedstawicieli zawodów prawniczych, jak i społeczności zajmującej się sztuczną inteligencją.

Caught in the crossfire is Stephen Aarons, an attorney slapped with a $5,000 fine and the indignity of being held in contempt for tendering an appeal document that beckoned fabricated witnesses and carried incorrect police testimonies. The brief in question not only contained entirely fictionalized witness accounts but also included incorrect detailing of the defendant’s demeanour and attire during the alleged crime. This causes concern about the validity and trustworthiness of leveraging AI-created content in legal settings, and crucially, how this reflects on the responsibility of lawyers to ensure that information is verified.

Kontekst prawny a sztuczna inteligencja

Justice C. Shannon Bacon voiced her astonishment during an August hearing at Aarons’ seeming obliviousness to the perils of relying on AI-created data. These comments stress the imminent need for caution and inspection among legal professionals when integrating technology into their practices.

AI’s involvement in this case stands as a word of caution for lawyers and similar professionals pondering the allure of leaning heavily upon AI-assisted tools with a lax approach to verification. This underscores the importance of human participation in maintaining the precision and integrity of legal documentation.

Osoby zainteresowane zapoznaniem się ze szczegółami tej sprawy mogą przeczytać cały artykuł na stronie The Verge.

Decyzja o wdrożeniu sztucznej inteligencji

Zastanawiasz się nad wdrożeniem automatyzacji opartej na sztucznej inteligencji w swojej firmie? Dowiedz się, jak bezpiecznie i odpowiedzialnie wykorzystać potencjał sztucznej inteligencji dzięki pionierskim rozwiązaniom firmy implementi.ai.