logo

Anthropic verbetert veiligheidsmaatregelen voor AI-modellen

Anthropic heeft updates aangekondigd voor zijn beleid rond verantwoorde AI-ontwikkeling. Het bedrijf definieert nu welke modellen krachtig genoeg zijn om extra bescherming te krijgen. De door Amazon gesteunde onderneming publiceerde deze veiligheids- en beveiligingsupdates in een blogbericht.


Als Anthropic tijdens het testen van een AI-model ontdekt dat het mogelijk een staat kan helpen bij het ontwikkelen van chemische of biologische wapens, zal het bedrijf direct nieuwe veiligheidsmaatregelen invoeren. Dit gebeurt voordat zo'n technologie wordt uitgebracht. Hetzelfde geldt als een model de rol van een beginnende Anthropic-onderzoeker volledig kan automatiseren.


Chemische en biologische wapens
"Als we merken dat een model potentieel een middelgroot staatsprogramma kan helpen bij het ontwikkelen van chemische en biologische wapens, zullen we nieuwe veiligheidsprotocollen implementeren voordat we deze technologie uitrollen", zei Anthropic in een verklaring.


Anthropic sloot in maart een financieringsronde af met een waardering van 61,5 miljard dollar. Dit maakt het een van de hoogst gewaardeerde AI-startups. Toch is dit slechts een fractie van de waarde van OpenAI, dat maandag aankondigde een investeringsronde van 40 miljard dollar te hebben afgesloten tegen een waardering van 300 miljard dollar.


Verborgen apparaten
In een eerdere versie van het beleid, gepubliceerd in oktober, meldde Anthropic dat het kantoren zou gaan controleren op verborgen apparaten. "We voeren deze inspecties uit met geavanceerde detectieapparatuur en technieken om mogelijke indringers te vinden", aldus het bedrijf. Anthropic bevestigde inmiddels dat het zowel een uitvoerende risicoraad als een intern beveiligingsteam heeft opgezet.

LAATSTE AI-NIEUWS

Silhouet van een vrouw die een mobiele telefoon vasthoudt tegen een achtergrond met het Meta-logo.

Joelle Pineau vertrekt als AI-onderzoekshoofd bij Meta

2 april 2025
Joelle Pineau stapt op als hoofd van het AI-onderzoeksteam bij Meta. Dit maakte ze dinsdag bekend via sociale media. Pineau verlaat het bedrijf eind mei na acht jaar dienst. Het vertrek komt op een moment van felle wedstrijd in de ontwikkeling van kunstmatige intelligentie. De vicevoorzitter voor AI-onderzoek bij Meta gaf haar reden voor vertrek duidelijk aan. "Nu de wereld grote veranderingen doormaakt en de race om AI versnelt, is het tijd voor anderen om het werk voort te zetten", schreef Pineau in haar bericht. Ze maakte niet bekend wie haar zal vervangen bij het moederbedrijf van Facebook en Instagram. Gezicht van Meta's 'open-source-aanpak' Pineau werkt vanuit Montreal, waar ze ook lesgeeft als hoogleraar informatica aan McGill University. Ze werd bekend als het gezicht van Meta's 'open-source-aanpak' bij het bouwen van AI-systemen. Dit houdt in dat basisonderdelen openbaar beschikbaar zijn voor anderen om te gebruiken of aan te passen. Het bekendste voorbeeld hiervan is Llama, Meta's taalmodel. Het nieuws komt kort voor de start van LlamaCon, Meta's nieuwe AI-conferentie op 29 april. Pineau begon in 2023 met het leiden van Meta's AI-onderzoeksafdeling. Deze groep heette vroeger Facebook AI Research en werd tien jaar geleden opgericht. Baanbrekend AI-onderzoeker Yann LeCun maakte deel uit van de oprichters. Volgende hoofdstuk "Het is tijd om ruimte te maken voor anderen om het werk voort te zetten terwijl Meta zich voorbereidt op zijn volgende hoofdstuk", zei Joelle Pineau in haar afscheidsbericht.
Een robot in een blauwe lichtgevende cirkel op de vloer met lijnen die richting hem uitsteken.

Denktank Tony Blair waarschuwt voor strenge AI-regels in Verenigd Koninkrijk

2 april 2025
Het Verenigd Koninkrijk moet zijn auteursrechtwetten versoepelen voor AI-bedrijven. Dit adviseert het Tony Blair Institute (TBI) in een nieuw rapport. Strengere regels zouden de band met de Verenigde Staten kunnen verzwakken en de nationale veiligheid in gevaar brengen. De denktank steunt het voorstel van de Britse regering. Dit plan laat AI-bedrijven toe om modellen te trainen met auteursrechtelijk beschermd materiaal zonder toestemming. Makers kunnen wel aangeven dat ze hiervan willen afzien. De aanpak verschilt van strenge regels waarbij elke maker eerst toestemming moet geven. Gevolgen Het TBI waarschuwt voor gevolgen als het Verenigd Koninkrijk strenge wetten invoert. "Het land loopt dan achter in de AI-gestuurde economie. Ook verzwakt dit het vermogen om nationale veiligheidsbelangen te beschermen", aldus de denktank. Met de Trump-regering die weinig AI-regels nastreeft en China dat AI in hoog tempo ontwikkelt, moet het VK voorzichtig zijn. In het rapport staat dat AI-makers uit het VK zullen vertrekken bij strengere regels. Ze gaan dan naar landen met soepelere wetten. Het instituut pleit voor een nieuw centrum voor AI en creatieve industrie. Dit moet beide sectoren dichter bij elkaar brengen. De denktank vergelijkt AI met eerdere technologische doorbraken zoals de boekdrukkunst. Progressieve oplossing "De progressieve oplossing gaat niet over vasthouden aan verouderde auteursrechtwetten. We moeten ze laten meegroeien met technologische veranderingen. Zo blijven ze effectief in het beschermen van makers in het AI-tijdperk", zei Fernando Garibay, muziekproducent die werkte met Lady Gaga en U2.

AI kan feestje van Google verpesten, stelt analist

1 april 2025
Technologiebedrijven worden regelmatig bedreigd door nieuwe ontwikkelingen. Radio werd vervangen door televisie, vaste lijnen door mobiele telefoons. Nu lijkt kunstmatige intelligentie het zoekproces op internet te veranderen. Dit kan een probleem vormen voor Google, dat lang de zoekmachinemarkt heeft beheerst. Analist Ben Reitzes van Melius Research waarschuwt dat Alphabet, het moederbedrijf van Google, het risico loopt om deze generaties Kodak te worden. De aandelen van Alphabet zijn ongeveer 25 procent gedaald sinds hun hoogtepunt in februari. Reitzes wijst op een belangrijke historische parallel met een ander bedrijf dat zijn dominantie verloor. Failliet "Alphabet is 25 procent gedaald. Denk aan Eastman Kodak", schreef Reitzes in een maandag gepubliceerd rapport. Kodak domineerde ooit de fotografiemarkt totdat digitale camera's opkwamen. Het bedrijf ging failliet in 2012 en heeft nu een marktwaarde van slechts 500 miljoen dollar. Google loopt het risico zijn status te verliezen als de bijna universeel geaccepteerde zoekmachine. Reitzes merkt op dat de jongere generatie andere gewoonten ontwikkelt. "Hoeveel kinderen zeggen dat ze hun onderzoekspaper gaan 'Gemini-en'? Kinderen maken ChatGPT hun startscherm en gebruiken het om antwoorden te vinden zonder storende advertenties", zegt hij. Huidige verhouding "Kodak bereikte bijna een twintigvoudige koers-winstverhouding in 1998 en zat drie jaar later onder de zeven. Hoewel de koers-winstverhouding van Alphabet al ongeveer veertig procent is gedaald sinds zijn piek in 2020, is zijn huidige verhouding van ongeveer achttien ruwweg hetzelfde als op de dag van de lancering van ChatGPT in 2022", aldus Reitzes.
MEER WEERGEVEN

Download GRATIS AI-prompts die je business helpen veranderen!

Exclusieve whitepapers en e-books met waardevolle kennis en AI-prompts - ontwikkeld om direct resultaat te leveren.

Je kunt deze krachtige tools zo downloaden.

➡️ Ga naar de producten-pagina en profiteer nu!

BRENG ME HIERHEEN

Deel dit bericht

Share by: