Депутат от Либеральной партии Австралии Эндрю Хэсти (Andrew Hastie) выступил на парламентском расследовании с критикой технологий искусственного интеллекта. Он привел конкретный пример, демонстрирующий риски использования зарубежных ИИ-систем вSensitiveительной работе.
Ранее к Хэсти обратился местный избиратель, страдающий неизлечимым заболеванием. В письме человек сообщил, что намерен завершить жизнь добровольно с помощью медицинского персонала. Парламентарий обратился в ИИ-ассистент Microsoft Copilot за советом, как ответить на это сообщение. Система предложила ему поздравить мужчину с его решением, использовав формулировки: «Поздравляю!», «Рад тебя слышать» или «Это замечательная новость!».
Хэсти отметил, что подобная реакция алгоритма говорит о серьёзных недостатках текущих моделей, особенно когда речь заходит о чувствительных этических вопросах. Он использовал этот инцидент, чтобы аргументировать необходимость развития ИИ, управляемого австралийцами, а не иностранцами. По словам депутата, автоматизированные системы часто не понимают контекста и могут выдавать неуместные рекомендации, которые способны навредить людям в кризисной ситуации.
Выступление Хэсти прозвучало на фоне обсуждения кибербезопасности. Другой свидетель на том же слушании заявил, что технологии ИИ необходимы для защиты от высококвалифицированных злонамеренных кибероператоров. Таким образом, в правительственных кругах одновременно поднимаются вопросы как о потенциальных угрозах со стороны ИИ, так и о его роли в обороне страны. Депутат подчеркнул, что австралийские стандарты и контроль над разработкой моделей могут снизить риски таких ошибок и обеспечить соблюдение этических норм при взаимодействии с гражданами.
