Parity AI spricht über die Prüfung von Rekrutierungsalgorithmen auf Voreingenommenheit
Published
Das ehrliche algorithmische Wirtschaftsprüfungsunternehmen Parity AI hat sich mit der Fähigkeitsakquisitions- und -verwaltungsplattform Beamery zusammengetan, um Gewohnheiten kontinuierlich auf Voreingenommenheit in seinen Einstellungstools für künstliche Intelligenz (KI) zu prüfen.
Beamery, das aufklärt von KI, um Unternehmen dazu zu ermutigen, Fähigkeiten zu identifizieren, zu rekrutieren, zu retten, zu fördern und neu einzusetzen, wandte sich an Parity, um ein Audit seiner Systeme für dritte soziale Treffen durchzuführen, das früher Anfang November 2022 durchgeführt wurde.
Begleitend zum Audit hat Beamery außerdem eine begleitende „Erklärbarkeitserklärung“ veröffentlicht, in der sein Engagement für verantwortungsvolle KI dargelegt wird. für Unternehmen und Human Sources (HR)-Gruppen, um allen Beteiligten zu versichern, dass ihre KI-Tools sich der Privatsphäre bewusst sind und benachteiligte oder marginalisierte Gemeinschaften nicht mehr diskriminieren.
„Um dies zu realisieren, wollen Unternehmen beweisen können, dass die ir-Systeme passen sich an alle relevanten Vorschriften an, einschließlich lokaler, föderaler und weltweiter Menschenrechts-, Bürgerrechts- und Datenschutzhinweise“, sagt sie. „Wir freuen uns, mit der Beamery-Crew als Beispiel für eine Firma zusammenzuarbeiten, die sich zweifellos darum kümmert, versehentliche algorithmische Verzerrungen zu minimieren und ihre Communitys ordentlich zu ermutigen. Wir freuen uns darauf, das Unternehmen weiter zu unterstützen, wenn aktuelle Regeln auftauchen.“
Sultan Saidov, Präsident und Mitbegründer von Beamery, fügt hinzu: „Für KI, um ihrem Anspruch gerecht zu werden, sozialen Gewinn zu bieten , es muss eine Herrschaft über die Blaupause geben, die sie erstellt hat und die uralt ist. Vielleicht fehlt es vorerst an Lesbarkeit darüber, wie dies aussehen möchte, weshalb wir uns vorstellen, dass wir jetzt die Pflicht haben, das Seltsame und Wunderbare im HR-Geschäft zu fördern, indem wir den Maßstab für KI schaffen, der erklärbar ist. klar, ethisch und konform mit den kommenden regulatorischen Anforderungen.“
Saidov sagt, dass die Transparenz und Überprüfbarkeit von KI-Objekten und ihren Auswirkungen wichtig ist.
Um in einem größeren Stadium zu erfinden Für mehr Transparenz hat Beamery beispielsweise „Erklärungsschichten“ in seine Plattform eingebaut, sodass es die Mischung und das Gewicht von Fähigkeiten, Dienstalter, Fähigkeiten und geschäftlicher Relevanz, die einer algorithmischen Empfehlung gegeben werden, hervorheben wird, um sicherzustellen, dass Stopp-Benutzer erfolgreich demonstrieren können welche Daten eine Empfehlung beeinflusst haben und welche nicht.
Das Ziel von KI-Auditing
Im Gespräch mit Computer Weekly über das Auditieren von Beamerys KI sagt O’Sullivan, Parity habe sich den gesamten Bauplan angesehen t, für die Erklärung, dass fortschrittliche soziale und technische Eigenschaften von KI-Systemen die Gurke nicht auf einfache Arithmetik reduzieren können.
„Der erste Aspekt, den wir beäugen, ist: Ist dies überhaupt zu erreichen? mit KI?” Sie sagt. „Lernt die Maschine hier exquisit? Ist es ausreichend für die Bewerbung und verfügt das Unternehmen über ausreichende Fähigkeiten im Aufbau? Beenden sie die exquisiten Datenreihenpraktiken? Denn es gibt einige exquisite Formulierungen, die wir in Bezug auf Demografie und Gewinngruppen begaffen möchten.“
O’Sullivan fügt hinzu, dass dies früher nicht mehr nur für die zukünftige Einhaltung gesetzlicher Vorschriften erforderlich war zum Verringern von KI-gesteuerten Verletzungen im Grunde.
“ Damit die KI ihrem wahrscheinlichen sozialen Gewinn gerecht werden kann, muss die Blaupause, die sie erstellt hat und uralt ist, kontrolliert werden.“Sultan Saidov, Beamery
„Es gab ein paar Fälle, nachdem wir auf Leads gestoßen sind, die Baukäufer an uns herangetragen haben, und so haben sie die absolut exquisiten Dinge gesagt, sie nehmen die Messungen vor und berechnen die Zahlen die speziell für die Schaufensterpuppe sind“, sagt sie.
„Aber dann, wenn Sie zufällig die gesamte Menge des Bauplans anstarren, ist es nicht mehr wirklich etwas Es ist wahrscheinlich mit KI zu erreichen oder es ist für diesen Kontext nicht mehr angemessen.“
Bitcoin, die weltweit bekannteste Kryptowährung, hat einen bemerkenswerten Meilenstein erreicht. Es wurde offiziell in das renommierte Guinness-Buch der Weltrekorde aufgenommen. Dies ist ein bedeutender...
Impress Chang, eine Luft- und Raumfahrt-, Verteidigungs- und Sicherheitsfachfrau bei PA Consulting, scheint über die Aktionen zu sprechen, die Unternehmen erfassen möchten, um die...
Wenn man an Suchmaschinen denkt, so kommt der erste Gedanke natürlich Google. Kein Wunder, denn der jetzige Marktanteil an Suchmaschinen in Deutschland wird von...
Skagen, ein renommierter Hersteller von Smartwatches und Wearables, hat kürzlich ein aufregendes Update für seine Begleit-App angekündigt. Die Skagen-Begleit-App wird vor dem Uhren-Update die...
