Искусственный интеллект заподозрили в дискриминации

Возрастающая популярность разработок в области искусственного интеллекта привела к тому, что технология стала всё шире использоваться работодателями, банками, органами правопорядка и другими заинтересованными структурами. Эксперты считают, что подобные системы могут и наносят ущерб в виде некорректных решений, которые могут влиять на людей. Однако ввиду высокой секретности вокруг деталей алгоритмов, используемых AI, сведения о механизме принятия тех или иных решений в основном закрыты.

Учёные из ведущих британских университетов предлагают обратиться к доверенной третьей стороне, которая помогла бы расследовать, как именно решения AI влияют на личный выбор людей, когда последние подозревают, что могли быть дискриминированы:

«Мы бы предпочли, чтобы доверенное лицо — регулирующий или контролирующий орган — внимательно исследовало работу алгоритма и проверило прозрачность действий системы».

Если вы хотите подсказать нам новость, отправьте намек на почту редактору jk@cossa.ru (а вот пресс-релизы в этот раздел отправлять не нужно). Если вы стесняетесь, можете прислать новость анонимно.