Microsoft: zo hebben we technologie in ChatGPT-stijl geïntegreerd in Bing Search

Microsoft heeft wat details verstrekt over Prometheus, het eigen AI-model dat het heeft gemaakt om ChatGPT-achtige functionaliteit te integreren in Bing Search.

Microsoft heeft al gezegd dat de nieuwe Bing “veel krachtiger” is dan OpenAI’s GPT-3.5 AI-model achter ChatGPT. Openbare experimenten toonden echter al snel aan dat de chatbotfunctie vatbaar was voor onverwachte uitbarstingen, waardoor Microsoft het aantal “chatsessies” beperkte tot vijf per sessie om verwarring te voorkomen.

Ook: Wat is ChatGPT? Hier is alles wat u moet weten

Nu heeft de CVP van Microsoft voor zoeken en kunstmatige intelligentie, Jordi Ribas, het We deelden enkele details over Prometheus – Het bedrijfseigen model van Microsoft dat Bing integreert met het GPT-model van OpenAI om relevantere resultaten in Bing te genereren – en hoe de nieuwe Bing is gemaakt.

De uitleg van Ribas komt toen gebruikers erachter kwamen dat Microsoft Sydney aan het testen was (interne codenaam voor Bing Chat) Met gebruikers in India Eind 2021. Gebruikers daar meldden in november 2022 dat Sydney “onbeleefd” was op bijna dezelfde manier als gebruikers het vonden nadat Microsoft de nieuwe Bing-versie had uitgebracht.

Volgens Ribas deelde OpenAI zijn “baanbrekende” post-GPT-3.5-model in de zomer van 2022 met Microsoft. Microsoft-president Brad Smith Hij zei OpenAI-technologie was “begin afgelopen zomer” te zien op zijn blog over Microsoft’s “Responsible AI”.

OpenAI opende ChatGPT in november voor de wereld, terwijl Microsoft in december in gesprek was om $ 10 miljard in OpenAI te investeren, wat eind januari werd bevestigd. Toen bracht Bing de nieuwe uit op 7 februari, de dag nadat Google zich haastte om zijn ChatGPT-concurrent Bard te dumpen.

“Het zien van dit nieuwe paradigma inspireerde ons om te onderzoeken hoe we GPT-mogelijkheden kunnen integreren in het Bing-zoekproduct, zodat we nauwkeurigere en completere zoekresultaten kunnen bieden voor elke zoekopdracht, inclusief lange, complexe en natuurlijke zoekopdrachten”, legt Ribas uit.

Zoals Ribas opmerkt, worden grote taalmodellen zoals GPT-3.5 tot op zekere hoogte getraind op gegevens. In het geval van ChatGPT stopten de trainingsgegevens ergens in 2021. Om de gebruikerservaring “rijker, relevanter en nauwkeuriger” te maken, besloot Microsoft om het te integreren met de Bing-backend via Prometheus.

Prometheus combineert de index-, ranking- en antwoordresultaten van Bing met de versie van GPT die Bing gebruikt om het chatantwoord te leveren, aldus Ribas.

Prometheus maakt gebruik van de kracht van Bing en GPT om recursief een reeks interne query’s te genereren via een component genaamd Bing Orchestrator, en heeft tot doel een nauwkeurig, uitgebreid antwoord te geven op de query van een gebruiker binnen een bepaalde conversatiecontext. Allemaal binnen milliseconden. We verwijzen hiernaar. antwoord gegenereerd door Prometheus Het is het antwoord op chatten”, legt Ribas uit.

Ribas voegt eraan toe dat de zoekresultaten van Bing, gebaseerd op zoekopdrachten en conversaties van gebruikers, nieuwe informatie aan Prometheus geven om het te helpen recente vragen te beantwoorden en onnauwkeurigheden te verminderen. Dit proces wordt “aarding” genoemd – een technologie van Google Gebruikt toen ik een groot taalmodel voor intelligente robots ontwikkelde. In het geval van Bing is het GPT-taalmodel gebaseerd op Bing-gegevens, en zo voegt Bing citaten toe aan Bing Chat-reacties.

“Hoewel integratie een geweldige innovatie is, is het een nieuwe technologie en moeten we nadenken over hoe we dit kunnen doen Pas het verantwoord toe, inclusief het verminderen van onnauwkeurigheden en het voorkomen van aanstootgevende en schadelijke inhoud. Daarom is het belangrijkste doel van de nieuwe Bing-preview het verzamelen van gebruikersfeedback om ons te helpen Prometheus nog verder te verbeteren”, legt Ribas uit.

Om de nauwkeurigheid van chatantwoorden te verbeteren, is Microsoft van plan om de aardingsgegevens die u op het formulier indient, te verviervoudigen.

Ribas zegt ook dat het Bing-team verdeeld was over hoe chat te integreren in de vertrouwde gebruikersinterface voor zoekopdrachten en antwoorden. De ene kant wilde dat het chatantwoord zou verschijnen zoals de zoekresultaten, met antwoorden op relevantie voor de zoekopdracht. Anderen wilden een nieuwe “interactieve, op chat gebaseerde zoekmethode”.

Ook: De beste kunstgeneratoren voor kunstmatige intelligentie

Uiteindelijk combineerde Microsoft zoeken en chatten in een enkele interface waarmee gebruikers konden schakelen tussen zoek- en chatmodi door op een element op de pagina te klikken of door omhoog en omlaag te vegen.