De Manitoba-paddenstoelenbrochure roept zorgen op over kunstmatige intelligentie. Maar voor technologie bestaat er geen veldgids

Het plezier van koken en de liefde voor het buitenleven zijn niet de enige redenen om geïnteresseerd te zijn in het zoeken naar paddenstoelen, zegt Alexandre Brassard.

“Dit zijn wezens die niet voldoende zijn bestudeerd”, vertelde hij in het Frans aan Radio-Canada. “Af en toe verschijnen er deze zeer mysterieuze wezens en wil je er meer over weten.”

Brassard – decaan van de wetenschap aan de St. Boniface Universiteit – deelde zijn fascinatie voor schimmels graag met collega-Winnipeggers en gaf amateur-mycologen een cursus over hoe ze te identificeren. Maar hij is al jaren gefrustreerd door het ontbreken van één beginnersvriendelijke veldgids voor de inheemse paddenstoelen uit Manitoba.

Of dat dacht hij tenminste.

“Een student zei tegen mij: 'Je zegt dat er geen boek over paddenstoelen bestaat in Manitoba', maar nee, dat is er wel. Ik zag het gisteren op Amazon”, zei hij.

“Het kostte $20. Ik dacht: ‘Waarom niet?’ Dus ik kocht het en het is een heel vreemd boek.”

Artikelbeschrijving voor Manitoba-paddenstoelen: een schimmelreis door het hart van Canada Het boek “illustreert de levendige kleuren, ingewikkelde lijnen en interessante aanpassingen van veel van Manitoba's inheemse paddenstoelsoorten”, aldus het boek.

Maar Brassard gelooft dat dit het werk is van kunstmatige intelligentie.

“Er zijn een aantal zinnen die een beetje vreemd zijn”, zei hij. “Je zegt bijvoorbeeld wel eens 'Armillaria millia Het is een van de dodelijkste imitaties. Dit heeft geen enkele zin. “Imitatie” wat? Het is niet ‘fataal’. “Het is eetbaar.”

Hij zei dat het boek meer dan vijftien slecht geselecteerde soorten bestrijkt, waarvan sommige niet van een bijgewerkte naam zijn voorzien of die zelfs niet in de provincie groeien.

Maar wat erger is, zei Brassard, is wat het boek niet vermeldt.

Hij zei: “Er zijn veel soorten dodelijke amanitas die niet worden genoemd, maar die in een boek voor beginners zouden moeten staan… Hij praat niet over dodelijke amanitas.”

“Het geeft je geen goed beeld van het gevaar en de soorten die in Manitoba voorkomen.”

David Gerhardt is voorzitter van de afdeling Computerwetenschappen van de Universiteit van Manitoba en doet al tientallen jaren onderzoek naar kunstmatige intelligentie.

Hij zei dat het boek een ‘gevaarlijke’ illustratie is van hoe chatbots als ChatGPT een stortvloed aan AI-gegenereerde inhoud hebben gecreëerd, verspreid door mensen die graag ‘snel geld willen verdienen’ zonder veel interesse in wat ze verkopen.

“De enige persoon die gewond raakt, is de persoon die het boek koopt, hetzij door geld te verspillen [or] Door te werken met de informatie uit het boek. “Dit is onjuiste informatie”, zei hij.

Dit omvat online marktplaatsen zoals Amazon, waarvan Gerhard zegt dat het een zegen is geweest voor amateurschrijvers, maar gemakkelijk kan worden uitgebuit door mensen die met een druk op de knop teksten op boekformaat produceren.

“Als ik een boek koop, verwacht ik dat iemand het heeft geschreven, enige tijd heeft besteed aan het controleren van de feiten en dat de redacteur ernaar heeft gekeken”, zei Gerhard. “Geen van deze systemen bestaat voor dit soort eenmalige publicatie in eigen beheer.”

Amazon verwijderde de vermelding nadat Radio-Canada om commentaar vroeg.

“We hebben inhoudsrichtlijnen die bepalen welke boeken te koop kunnen worden aangeboden, en we hebben proactieve en reactieve methoden voor het evalueren van inhoud in onze winkel, of deze nu door kunstmatige intelligentie is gemaakt of niet”, zei Amazon-woordvoerder Tim Gelman in een schriftelijke verklaring.

CBC kon de vermelde auteur van het boek, Jay of Mark, niet vinden. CBC kon geen enkele informatie over het boek vinden in verschillende openbaar toegankelijke ISBN-databases, en het boek zelf is in eigen beheer uitgegeven.

“De goede terminator”

Uit een analyse van een voorbeeldboek uitgevoerd door Originality.ai – een bedrijf dat adverteert met een nauwkeurigheid van 98 procent bij het detecteren van door AI gegenereerde inhoud – bleek dat het boek “waarschijnlijk door AI gegenereerd” was met 100 procent zekerheid.

Ook deze voorspelling werd gegenereerd met behulp van kunstmatige intelligentie.

“We beschouwen het als een goede Terminator-film”, zegt Jonathan Gillham, oprichter en CEO van Originality.ai.

“Waar AI echt goed in is, is het identificeren van ruispatronen binnen grote datasets, en dat is precies wat onze AI-detector doet.”

De tool is getraind om verschillen te detecteren terwijl het datasets van miljoenen menselijke en AI-teksten onderzoekt om de waarschijnlijkheid te voorspellen dat deze door een machine worden geschreven.

Gilham zei dat AI-detectoren nooit perfect zullen zijn, maar de tool zelf is grondig getest en hij heeft er vertrouwen in wat het kan doen.

Gerard is sceptisch.

“Er zijn bedrijven geweest die hebben geprobeerd AI-detectietools te maken, en dan neemt iemand de Onafhankelijkheidsverklaring en legt deze neer, en een robot zal zeggen: 'Oh ja, dat is duidelijk door een robot geschreven'”, zei hij. . .

“Er zijn veel omstandigheden waarin het moeilijk of onmogelijk is om te weten wanneer een tekstblok door AI wordt gegenereerd.”

Technologie kan 'dingen verkeerd doen'

Maar hij voegde eraan toe dat er enkele anekdotes zijn die mensen beginnen op te pikken, met het voorbehoud dat zelfs een kleine aanpassing mensen van de geur kan afhouden.

Gerhard zei dat de hoofdtekst “een beetje uitstekend is. Er wordt geprobeerd veel te zeggen zonder iets te zeggen.”

“Het eindresultaat is de gemiddelde tekst voor de hele mensheid, nietwaar? Het soort dingen dat een normaal mens zou zeggen, die bijna per definitie niet interessant zijn.”

Ik wil niet zeggen dat de technologie niet zonder doel is: Gerhard zei dat hij voortdurend AI gebruikt, wat hem helpt bij het organiseren van bestanden en brainstormen.

Hij gebruikte het zelfs om paddenstoelen te plukken.

“Ik gebruikte het om te beslissen hoe ik de paddenstoelen die ik had geplukt wilde bewaren”, zegt Gerhard, die twee jaar geleden met de hobby begon.

“Ik ben een groot voorstander van deze tools”, voegde hij eraan toe.

“Ik denk dat deze grote ontkoppeling ontstaat omdat we als samenleving er zo aan gewend zijn dat computers alles goed doen. We moeten een nieuw mentaal model bouwen waarin we een krachtig computerhulpmiddel hebben dat het af en toe fout doet.”