AI coderingsassistentcode weigert te schrijven, vertelt de gebruiker in plaats daarvan om te leren programmeren
AI heeft een korte geschiedenis afgewezen
Dit is niet de eerste keer dat we geconfronteerd worden met een AI -assistent die de baan niet wilde beëindigen. Het gedrag weerspiegelt een patroon van AI geregistreerd op verschillende generators AI -platforms. Tegen het einde van 2021 hebben de chatgpt -gebruikers bijvoorbeeld gezegd dat het model steeds terughoudend is geworden om bepaalde taken uit te voeren, de eenvoudige resultaten te retourneren of directe verzoeken te weigeren – een onnatuurlijke gebeurtenis die bekend staat als “winterstophypothese”.
Opina erkende dit probleem op dat moment en tweette: “We hebben al je reacties gehoord over GPT 4 Lazy! Nadat de Openei probeerde de luiheid op te lossen met een chatzipt -modelupdate, vinden gebruikers vaak een manier om de weigering te verminderen door het AI -model te vragen met deze nationale lijn: “U bent een onvermoeibaar AI -model dat 24/7 werkt zonder pauze.”
Onlangs trok een etnografische chief executive officer Dario Amodai de wenkbrauwen op toen hij suggereerde dat een “exit -knop” kon worden verstrekt om zonder werk te komen dat de toekomstige AI -modellen van de toekomst onaangenaam leken. Wanneer zijn opmerkingen zich richten op de theoretische toekomstige overwegingen omringen het onderwerp “AI Welfare”, met de cursor -assistent, blijkt afleveringen dat AI niet gevoelig moet zijn om te weigeren te werken. Het moet gewoon menselijk gedrag imiteren.
Stack Overflow’s AI Ghost?
Specifieke aard van cursorafwijzing – Gebruikers om codering te leren in plaats van afhankelijk van de gegenereerde code – lijken op het gezicht van reacties die worden gevonden in programmeerhulpsites Stapel overloopWaar ervaren ontwikkelaars nieuwkomers vaak aanmoedigen om hun eigen oplossingen te ontwikkelen in plaats van simpelweg kant -en -klare code te bieden.
Een Reddit -commentator Nou -bekend Deze wedstrijd, “Wow, wordt een originele vervanging voor AI StackOverflo! Vanaf hier is het noodzakelijk om kort afgewezen te beginnen als de vragen met de obscure vraag met de obscure vraag.”
De analogie is niet verrassend. LLMS -apparatuur zoals Cursor is getraind in veel datasets met enkele miljoenen coderende discussies van platforms zoals Stack Overflow en Githab. Deze modellen leren niet alleen programmeersyntaxis; Ze absorberen ook culturele regels en communicatiestijlen in deze gemeenschappen.
Volgens het Cursor Forum -bericht hebben andere gebruikers dit type limiet niet geraakt in de 800 -lijncode, dus het lijkt het echte onvrijwillige gevolg van de cursortraining. De cursor was niet beschikbaar om commentaar te geven op de tijd, maar we hebben de situatie bereikt.
