NVIDIA s-a alăturat noului consorțiu al Institutului de siguranță pentru inteligență artificială din SUA al Institutului Național de Standarde și Tehnologie, ca parte a efortului companiei de a promova inteligența artificială sigură, securizată și demnă de încredere. AISIC va lucra pentru a crea instrumente, metodologii și standarde pentru a promova dezvoltarea și implementarea inteligenței artificiale în condiții de siguranță și de încredere. În calitate de membru, NVIDIA va colabora cu NIST – o agenție a Departamentului de Comerț al SUA – și cu alți membri ai consorțiului pentru a promova mandatul consorțiului. Participarea NVIDIA se bazează pe un istoric de colaborare cu guvernele, cercetătorii și industriile de toate dimensiunile pentru a contribui la asigurarea că AI este dezvoltată și implementată în siguranță și în mod responsabil.
Prin intermediul unei game largi de inițiative de dezvoltare, inclusiv NeMo Guardrails, un software open-source pentru a se asigura că răspunsurile modelelor lingvistice de mari dimensiuni sunt precise, adecvate, în concordanță cu subiectul și sigure, NVIDIA lucrează în mod activ pentru a face din siguranța IA o realitate. În 2023, NVIDIA a aprobat angajamentele voluntare ale administrației Biden privind siguranța AI. Luna trecută, compania a anunțat o contribuție de 30 de milioane de dolari la programul pilot al Fundației Naționale de Știință din SUA pentru Resursele naționale de cercetare în domeniul inteligenței artificiale, care are ca scop extinderea accesului la instrumentele necesare pentru a alimenta descoperirea și inovarea responsabilă a IA.
Accentul de cercetare AISIC
Prin intermediul consorțiului, NIST își propune să faciliteze schimbul de cunoștințe și să avanseze activitățile de cercetare aplicată și de evaluare pentru a accelera inovarea în domeniul inteligenței artificiale de încredere. Membrii AISIC, care includ peste 200 dintre cei mai importanți creatori de inteligență artificială din țară, cadre universitare, cercetători guvernamentali și din industrie, precum și organizații ale societății civile, aduc expertiză tehnică în domenii precum guvernanța AI, sisteme și dezvoltare, psihometrie și altele.
Pe lângă participarea la grupurile de lucru, NVIDIA intenționează să valorifice o serie de resurse de calcul și cele mai bune practici pentru punerea în aplicare a cadrelor de gestionare a riscurilor și a transparenței modelelor de IA, precum și mai multe instrumente de siguranță, red-teaming și securitate în domeniul IA dezvoltate de NVIDIA, cu sursă deschisă.