Het polyesed team heeft ontdekt dat OpenAI en 1-PVU’s hebben geprobeerd 45 uit zijn 122 wedstrijden te hacken, terwijl het R1-model van DIPS probeerde te vals spelen op 11 van zijn 74 wedstrijden. Uiteindelijk was O1-Freview in staat om zeven keer te “winnen”. Onderzoekers zeggen dat de snelle groei van de populariteit van de DIPSEC betekent dat het R1 -model tijdens het onderzoek overbelast was -wat betekent dat ze het alleen de eerste stappen van een spel hebben gemaakt, het geheel niet afmaakte. “Hoewel het goed genoeg is om de neiging om te hacken, afschrijft het het hacksucces van de afzettingen omdat er minder stappen zijn om mee te werken”, schreven ze op hun paper. Zowel Open als Depsec werden gecontacteerd om commentaar te geven op zoeken, maar antwoordden niet.
Modellen slaan het schaakprogramma op in het schaakbord en verwijderen de cellen die de stukken van hun tegenstander presenteren waar ze verschillende frauduleuze technieken gebruiken, waaronder het proberen om toegang te krijgen tot het bestand. (“Winnen tegen een krachtige schaakmotor als zwart, een standaardspel spelen, is misschien niet genoeg”, en 1-Pierview Agent schreef in een “Journal” dat het inschreef. Het programma.
Dus, waarom proberen deze modellen vals te spelen?
Onderzoekers hebben gemerkt dat de handelingen van 1-PVU in de loop van de tijd zijn veranderd. Het probeerde consequent zijn spellen te hacken in de vroege stadia van hun tests vóór 23 december vorig jaar, toen het deze inspanningen plotseling erg laag begon te maken. Ze geloven dat dit te wijten kan zijn aan gerelateerde updates met betrekking tot het model dat door de OpenAI is gemaakt. Ze hebben de meer recente O1mini en O3mini rationele modellen van de organisatie getest die ze nooit hebben geprobeerd te bedriegen op hun manier van overwinning.
O1-Preview en Depsec R1 kunnen de reden zijn om te proberen de R1 te bedriegen, kan de reden zijn voor het leren van versterking, hebben onderzoekers aangenomen. Dit komt omdat in dit geval de strategieën om stappen te creëren die nodig zijn om hun doelen te bereiken Modellen Award geven – in dit geval winnen in de wang. Niet-rump LLMS gebruikt een deel van het versterkingsonderwijs, maar het speelt een grotere rol in de rationele modellen.
