Депутат Екатерина Смышляева обсудила актуальные вопросы соблюдения цифровой гигиены и защиты прав граждан в Казахстане в условиях работающего закона об искусственном интеллекте и принятого цифрового кодекса. Смышляева отметила, что действующие нормы направлены на защиту прав человека и минимизацию рисков, связанных с новыми цифровыми технологиями. В частности, закон содержит запрет на манипуляции и дискриминацию, что должно предотвратить негативное использование технологий.
Система скоринга, которая уже активно применяется в таких сферах, как банковское дело и социальное обеспечение, может иметь негативные последствия для прав граждан. Например, поведенческий анализ, который используется для определения статуса человека, может приводить к ограничениям доступа к определённым возможностям. Поэтому важно, чтобы такие практики имели законные основания, иначе они подлежат запрету.
Смышляева также сравнила скоринг с таргетированием, описывая таргетинг как создание информационного пузыря вокруг человека, отличного от классического скоринга. Важно понимать, что ответственность за решения, принимаемые на основе данных систем, лежит на людях, использующих эти технологии, а не на самих машинах.
Закон предусматривает градацию систем искусственного интеллекта по уровню риска, уделяя особое внимание высокорисковым системам, связанным с жизнью и здоровьем граждан, а также обработкой больших данных. Более низкие уровни риска не подвержены столь строгому контролю, чтобы не препятствовать развитию технологий. Вопрос автономности систем также остается актуальным: высокоавтономные технологии должны регулироваться не только подзаконными актами, но и основным законодательством.
Локальные системы ИИ, работающие в закрытых контурах, также являются важной частью регулирования. Они помогают защитить персональные данные и избегать внешнего влияния, что крайне важно в критически важных секторах, таких как образование. Смышляева подтвердила, что законодательство охватывает наиболее опасные сценарии, но при этом важно учитывать не только защиту ИИ, но и более широкие аспекты, как защиту данных и кибербезопасность.
Тем не менее, она признала, что значительная часть рисков возникает при использовании международных платформ, над которыми государство не может осуществить полноценный контроль. В таких случаях пользователи нередко подписывают пользовательские соглашения, которые никак не обеспечивают их защиту, поскольку часто не читаются или не подлежат изменению. Это означает, что необходимы дополнительные меры для повышения осведомленности граждан о цифровой гигиене и рисках, связанных с использованием иностранных сервисов.
