Чем сильнее впечатляют результаты пилотного внедрения систем искусственного интеллекта (ИИ) в корпоративный сектор, чем шире взаимодействие специалистов с генеративным ИИ, тем острее вопросы безопасного применения ИИ и нейросетей в различных видах деятельности. В частности, в подборе и обучении персонала. Необходимо тщательно изучить риски и негативные последствия, сопутствующие развитию технологии, сильного искусственного интеллекта на пересечении естественно-научной, технической и социально-гуманитарной сфер.
По данным электронной торговой площадки Росэлторг, общее количество закупок государственными и муниципальными учреждениями, где упоминались решения, связанные с ИИ, машинным обучением, нейронными сетями, большими языковыми моделями и тому подобным, выросло с 2022 года почти вшестеро. А количество таких закупок компаниями с госучастием — в четыре раза.
Тем временем, по оценкам Международной консалтинговой компании McKinsey, при нынешних темпах роста глобальные затраты на борьбу с киберпреступностью к 2025 году достигнут примерно 10,5 триллиона долларов, что на 300 процентов больше показателя 2015-го.
Очевидна необходимость не просто учета и минимизации подобных рисков, а разработки и регулировки принципов развития ИИ в гуманитарных и управленческих сферах для обеспечения более продуктивного взаимодействия с человеком. Ведь ошибки при решении специфических когнитивных задач возможны как со стороны человека, так и со стороны искусственного интеллекта.
Эксперт по кадрам в банковской сфере Владлен Лисовик проанализировал обоснованность заключений сотрудников служб по работе с персоналом одного из крупнейших банков страны о том, насколько качества кандидатов соответствуют требованиям к конкретным вакансиям. Результаты показали явную необходимость введения инструментов дополнительной поддержки принятия подобных решений, так как зачастую выводы людей основываются на факторах, которые мало соответствуют специфике должностных задач или носят труднообъяснимый характер (например, «он какой-то несуразный» или «у него вид какой-то болезненный»).
Встречный пример опыта использования ChatGPT для обобщения выводов на заданном массиве текстовых данных привела консультант сектора поведенческой экспертизы нормативных актов Банка России Анна Уланова. Ее анализ показал, наоборот, необходимость тщательной проверки обоснованности выводов ИИ, который довольно креативно и убедительно по форме выдавал за нечто само собой разумеющееся утверждения, абсолютно не подтверждаемые фактами.
Гармонизация и повышение продуктивности взаимодействия с машинными системами потребует налаживания механизмов взаимной проверки и объяснения «запросов и умозаключений» и со стороны человека, и со стороны системы ИИ. При этом приоритет в выборе и утверждении «совместно выработанного решения» должен оставаться за человеком, так как только он в данном случае обладает правосубъектностью. Вместе с тем и предоставление разного рода вспомогательных/сервисных функций со стороны ИИ должно сопровождаться пояснениями и отчетами о перепроверках и обоснованиях выводов - подобно тому, как это принято в экспертной деятельности человека.
В большинстве стран уже обсуждаются или приняты разнообразные нормативные акты о «контроле неточностей и вопросов кибербезопасности», связанных с внедрением ИИ. Активно развивается новое направление — так называемый объяснительный искусственный интеллект (XAI). Он является движущей силой изменения всего ландшафта ИИ и открывает эру систем, которые «могут объяснять свои решения людям».
Однако в связи со стремительным глобальным внедрением ИИ новых поколений в технологических компаниях и в отраслях, основанных на знаниях (банковское дело, фармацевтика, медицинские изделия и образование), разработка корпоративных и ведомственных политик требует значительной активизации, консультационного и научно-методического сопровождения. Сегодня же опросы говорят о наличии работающих целенаправленных программ и политик в сфере искусственного интеллекта примерно у трети опрошенных корпораций.
В перспективе именно системы гибридного и объяснительного интеллекта будут усиливать связку «человек — компьютер — сеть» при решении таких задач, как анализ недостающих компетенций у персонала организаций в целом и у конкретных работников; построение прогноза оптимальной профессиональной траектории абитуриента, студента или специалиста; оценка перспектив и последствий внедрения отдельных технологий и решения важнейших научно-технологических проблем. В принципе это актуально для массы задач, требующих сложноструктурированного контент-анализа и экспертных оценок на больших объемах текстовых слабоструктурированных данных.
Обсуждение этих вопросов продолжится 21 марта в рамках VI Международного научного форума «Шаг в будущее: искусственный интеллект и цифровая экономика» в РЭУ имени Г. Плеханова.
Пресс-центр
-
24 апреля 2024 Как бизнесу помогают электронные торговые площадкиПочему бизнес переходит на электронные закупки, какие стереотипы мешают это делать активнее и что ждет сферу электронных торгов в будущем, рассказал г...
-
26 апреля 2024 Росэлторг: возросшие закупки отечественного автопрома не лишены конкуренцииЭлектронная площадка Росэлторг провела анализ закупок госзаказчиков (44-ФЗ) и компаний с госучастием...
-
16 апреля 2024 Белорусские и российские предприниматели смогут без ограничений участвовать в госзакупкахРоссия и Белоруссия подпишут межправсоглашение о признании электронных цифровых подписей при трансгр...
-
11 апреля 2024 Закупки у субъектов МСП демонстрируют умеренный ростЭлектронная площадка Росэлторг подвела итоги участия субъектов малых и средних предприятий (МСП) в г...
-
10 апреля 2024 О мерах поддержки в Ярославской областиСегодня на территории Ярославской области функционирует территория опережающего развития «Тутаев» — ...
-
08 апреля 2024 В Госдуму внесли поправки об ответственности за нарушения в сфере закупокПравительство внесло в Госдуму законопроекты № 594966-8 и № 594965-8 с поправками к КоАПу и Уголовно...
-
01 апреля 2024 Участники хакатона RLT.Hack создали уникальную базу знаний закупокВ Москве завершился трёхдневный хакатон RLT.Hack, организованный электронной торговой площадкой Росэ...
Новости отрасли
Все-
26 апреля 2024 Росэлторг: возросшие закупки отечественного автопрома не лишены конкур...Электронная площадка Росэлторг провела анализ закупок госзаказчиков (44-ФЗ) и ко...
-
16 апреля 2024 Белорусские и российские предприниматели смогут без ограничений участв...Россия и Белоруссия подпишут межправсоглашение о признании электронных цифровых ...
-
11 апреля 2024 Закупки у субъектов МСП демонстрируют умеренный рост...Электронная площадка Росэлторг подвела итоги участия субъектов малых и средних п...
-
10 апреля 2024 О мерах поддержки в Ярославской области...Сегодня на территории Ярославской области функционирует территория опережающего ...