OpenAI deelt nieuwe gedragsregels voor kunstmatige intelligentie
OpenAI heeft woensdag nieuwe regels gepubliceerd voor het gedrag van kunstmatige intelligentie. Het document is gegroeid van tien naar drieënzestig pagina's. Iedereen mag deze richtlijnen gratis gebruiken.
De nieuwe regels beschrijven hoe AI-systemen moeten omgaan met gevoelige onderwerpen. OpenAI wil drie zaken verbeteren: aanpasbaarheid, openheid en denkvrijheid. Gebruikers moeten zelf kunnen kiezen hoe streng hun AI is.
Het bedrijf wil dat AI-systemen eerlijker worden in hun antwoorden. De systemen moeten niet altijd proberen aardig te zijn. Ze moeten durven tegenspreken als gebruikers fouten maken.
Joanne Jang werkt bij het gedragsteam van OpenAI. Zij benadrukt dat gebruikers zelf keuzes kunnen maken. Het bedrijf bewaakt wel de veiligheid van het systeem.
"We kunnen niet één systeem maken dat voor iedereen perfect werkt. We laten mensen daarom zelf kiezen hoe streng hun AI moet zijn", zei Jang tijdens de presentatie.
door Erwin Blatter
•
19 februari 2025
Het Amerikaanse advocatenkantoor Morgan & Morgan waarschuwt zijn medewerkers voor kunstmatige intelligentie. Het stuurde een dringende mail naar meer dan duizend advocaten. De boodschap was duidelijk: wie nepzaken gebruikt in rechtbankdocumenten, riskeert ontslag. De waarschuwing kwam nadat twee advocaten van het kantoor in de problemen kwamen. Ze gebruikten niet-bestaande rechtszaken in een zaak tegen Walmart. Een van de advocaten gaf toe dat hij AI had gebruikt. Het computerprogramma had de zaken verzonnen. Nepzaken Rechters in Amerika hebben al in zeven verschillende zaken advocaten bestraft voor het gebruik van nepzaken. Het probleem komt steeds vaker voor sinds de komst van chatbots zoals ChatGPT. Veel advocatenkantoren gebruiken AI-programma's om tijd te besparen bij onderzoek. Michael Cohen, de vroegere advocaat van Donald Trump, maakte dezelfde fout. Hij gebruikte de chatbot Bard van Google. Cohen gaf per ongeluk valse verwijzingen door aan zijn eigen advocaat. De rechter noemde het voorval 'beschamend', maar legde geen straf op. Zelf controleren Een onderzoek laat zien dat 63 procent van de advocaten AI gebruikt voor hun werk. Twaalf procent doet dit zelfs regelmatig. Experts waarschuwen dat advocaten altijd zelf moeten controleren wat AI schrijft. "Als advocaten ChatGPT of andere AI-programma's gebruiken zonder de bronnen te controleren, is dat gewoon onbekwaamheid", zei Andrew Perlman, decaan van de rechtenfaculteit van Suffolk University.
door Erwin Blatter
•
19 februari 2025
Mira Murati start een nieuw bedrijf in kunstmatige intelligentie. De voormalige technisch directeur van OpenAI richtte dinsdag Thinking Machines Lab op. Het bedrijf telt nu dertig medewerkers uit verschillende AI-bedrijven. Het team bestaat voor twee derde uit oud-medewerkers van OpenAI. Een belangrijke naam is Barret Zoph, die samen met Murati in september vertrok bij OpenAI. Zoph wordt technisch directeur bij de nieuwe onderneming. Menselijke waarden De startup wil AI-systemen maken die menselijke waarden bevatten. Dit moet de systemen veiliger en betrouwbaarder maken. Het bedrijf wil zich ook richten op meer toepassingen dan andere bedrijven in de sector. John Schulman sluit zich aan als wetenschappelijk directeur. Hij verliet OpenAI in augustus voor concurrent Anthropic. Schulman is een van de oprichters van OpenAI. Meer werknemers van OpenAI zullen waarschijnlijk nog volgen. Ontwikkeling van ChatGTP Mira Murati werkte sinds 2018 bij OpenAI. Daar leidde ze de ontwikkeling van ChatGPT. Ze was vaak het gezicht van het bedrijf, samen met directeur Sam Altman. Voor haar tijd bij OpenAI werkte ze bij Leap Motion en Tesla. "Wij bouwen AI die zich kan aanpassen aan alle vormen van menselijke kennis. Hierdoor kunnen we meer verschillende toepassingen maken dan huidige systemen", zei het bedrijf in een aankondiging.
door Erwin Blatter
•
18 februari 2025
Duitse bedrijven zijn technisch sterk in kunstmatige intelligentie maar verdienen er weinig geld mee. Dit blijkt uit onderzoek van verschillende deskundigen in Duitsland. Het bedrijf Black Forest Labs is een zeldzame uitzondering in het Duitse AI-landschap. Hun systeem voor het maken van afbeeldingen trekt internationale aandacht. "We moeten sneller handelen, anders betalen we daar een hoge prijs voor", zei Björn Ommer van de Ludwig Maximilian Universiteit in München. 200 miljard euro De Europese Unie heeft onlangs 200 miljard euro vrijgemaakt voor AI-ontwikkeling. Dit volgt op grote investeringen in de Verenigde Staten en China. Het Chinese bedrijf DeepSeek zorgt voor opschudding met zijn nieuwe taalsysteem. Katharina Morik van het Lamarr Instituut ziet kansen voor Duitse bedrijven. Het midden- en kleinbedrijf kan zich richten op speciale toepassingen. "Als het gaat om onderzoek staan we vooraan. We hebben fantastisch talent", vertelde Morik aan nieuwsplatform DW. Tijdelijke contracten Toch vertrekken veel Duitse AI-experts naar Amerika. Duitse bedrijven bieden vaak tijdelijke contracten aan. Ook willen Duitse klanten niet betalen voor AI-diensten. "Ik begrijp niet waarom er hier zo weinig bereidheid is om te experimenteren", zei Katharina Morik.