Ризики використання технології штучного інтелекту для менеджменту системи управління якістю виробничих підприємств в Україні

Abstract

Актуальність дослідження зумовлена поширенням технологій штучного інтелекту у виробничих системах управління якістю та необхідністю контролювати специфічні ризики, пов’язані з якістю даних, надійністю моделей, кібербезпекою, кадровими компетенціями й нормативною відповідністю. Метою статті є розроблення та практична апробація підходу до оцінювання ризиків інтеграції ШІ в систему управління якістю виробничого підприємства. Об’єктом дослідження є процес управління ризиками під час інтеграції ШІ в СУЯ на прикладі ТОВ «КСЕНКО АВТОПРОДАКШН». Теоретичну основу сформовано положеннями ISO 9001:2015, ISO 31000:2018, ISO 13485:2016, ISO/IEC 23894:2023 та ISO/IEC 42001:2023. Використано аналіз і синтез наукових джерел, системний і процесний підходи, експертне оцінювання та напівкількісну матрицю «ймовірність-вплив». Експертну групу сформували п’ять фахівців, пов’язаних з управлінням, якістю, виробництвом, ІТ та роботою з даними; оцінювання проведено у 2026 р. на основі матеріалів проєкту, даних про виробничі й контрольні процеси та професійних суджень експертів. Ідентифіковано 29 ризиків і згруповано їх за технічними, організаційними, кадровими, інформаційно-кібербезпековими, регуляторними та соціально-етичними ознаками. Для кожної події визначено нормовані оцінки ймовірності та впливу від 0 до 1, після чого сформовано ризик-профіль. До критичних за прийнятими порогами віднесено 7 ризиків; найвищі оцінки отримали відключення інтернету та енергосистем, мобілізація ключових фахівців і низька якість даних для навчання моделі. Запропоновано превентивні та коригувальні заходи, що охоплюють аудит даних, резервування інфраструктури, калібрування моделей, крос-навчання персоналу та формалізацію вимог. Практичне значення результатів полягає у можливості використання підходу як відтворюваного інструменту пріоритизації ризиків і планування заходів у межах СУЯ без застосування складних статистичних моделей. Наукова новизна полягає в узгодженні ризик-орієнтованої логіки стандартів систем менеджменту з оцінюванням специфічних для ШІ загроз та її апробації на конкретному виробничому підприємстві. Запропонований підхід забезпечує прозорість критеріїв, порівнюваність оцінок і можливість повторного моніторингу залишкового ризику після впровадження управлінських заходів.The relevance of the study is driven by the increasing use of artificial intelligence technologies in manufacturing quality management systems and by the need to control specific risks associated with data quality, model reliability, cybersecurity, staff competencies, and regulatory compliance. The purpose of the article is to develop and practically test an approach to assessing the risks of integrating AI into the quality management system of a manufacturing enterprise. The object of the study is the risk management process during AI integration into the QMS, using Ksenko Auto Production LLC as a case. The theoretical basis combines ISO 9001:2015, ISO 31000:2018, ISO 13485:2016, ISO/IEC 23894:2023, and ISO/IEC 42001:2023. The study applies analysis and synthesis of scientific sources, systems and process approaches, expert assessment, and a semi-quantitative probability–impact matrix. The expert group included five specialists representing management, quality, production, IT, and data-related functions; the assessment was conducted in 2026 using project materials, information on production and control processes, and professional expert judgments. Twenty-nine risks were identified and grouped into technical, organizational, human-resource, information and cybersecurity, regulatory, and socio-ethical categories. For each event, normalized probability and impact scores from 0 to 1 were determined and used to construct the risk profile. Under the adopted thresholds, seven risks were classified as critical; the highest scores were assigned to internet and power-system outages, mobilization of key specialists, and poor-quality data used for model training. Preventive and corrective measures were proposed, including data audits, infrastructure redundancy, model calibration, cross-training of personnel, and formalization of requirements. The practical value of the results lies in the possibility of using the approach as a reproducible tool for risk prioritization and action planning within a QMS without complex statistical models. The scientific novelty consists in aligning the risk-based logic of management-system standards with the assessment of AI-specific threats and testing this combination in a manufacturing setting. The approach improves transparency of criteria, comparability of assessments, and repeated monitoring of residual risk after management actions are implemented.