За психическим состоянием школьников и студентов начнет следить нейросеть
Сколько еще должно появиться «школьных стрелков» и погибнуть детей, чтобы произошли изменения в системах защиты учебных учреждений и предупреждения преступлений среди молодежи? – задавшись таким вопросом, ученые (уже не в первый раз!) предложили «поселить» в учебных заведениях искусственный разум, способный выявлять склонных к деструктивному поведению детей… на основе их домашних заданий! Чем может помочь такой внедренный за парту «шпион» и как он работает, мы выяснили с помощью специалистов.
По-научному «шпион под партой» — это мониторинг психоэмоционального состояния ребенка на основе на основе автоматизированного анализа его рукописных текстов с помощью нейронных сетей. Проще говоря, для этого нужно специальное программное обеспечение, разработка которого уже поручена компетентному ведомству, и написанный от руки текст – здесь помогут учителя, дав ученикам задание, которое нужно выполнить собственноручно, а не на компьютере. Цель – заранее выявить тенденцию подростка к совершению противоправных действий. Задумка прогрессивная, по отношению к которым, как правило, и возникает самое большое количество сомнений и вопросов, касающихся точности полученных результатов и прав тестируемых.
Мы поинтересовались отношением к новшеству криминалиста Максима Матвеева:
— Точность таких программ нельзя назвать стопроцентной. Конечно, анализ текстов на выявление деструктивного поведения, определении степени вины подозреваемых и правдивости показаний существует в криминалистике уже давно. Но не одна из программ анализа текста не может быть принята как истина в последней инстанции без сопровождения ее «живого», профессионального психолога, знакомого с работой в области криминологии. Как правило, подобные программы работают на основе графологической экспертизы, обрабатывающей специфические речевые обороты, семантику и даже синтаксис. В рукописном тексте исследуют наклон букв, степень нажатия, ровности написания знаков и так далее. Считаю, что такую работу прекрасно выполняет профессионал-человек. Но если подобные проверки будут поставлены на поток, то без искусственно интеллекта не обойтись в виду масштабности проекта и громадного количества материала, который необходимо будет обработать.
– Как же избежать ошибки?
– От ошибок не застрахован никто, как ни банально это звучит. Именно поэтому необходима многоступенчатая проверка. Нейронные сети и искусственный интеллект – это только костыль, который может помочь профессионалу, но не заменить его.
– Какие могут быть ошибки, например?
– Ну, допустим, ребенок переволновался из-за предыдущей двойки или ему надо идти к врачу на следующий день, а он боится этого визита и находится в стрессовом «предвкушении». Все это, отразится на почерке, и система может распознать и маркировать это эмоциональное изменение неверно. Ошибочно — с точки зрения истинного состояния ребенка, но с точки зрения алгоритмов и семантических матриц, заложенных в программу – все будет сделано правильно. Ребенка отправят к психологу, закрутится «машина».
– «Машина» закрутится и что будет с правами ребенка? Насколько эти исследования могут быть анонимными?
– Сложный вопрос. На сегодня существует федеральный закон о защите персональных данных N 152-ФЗ. Согласно этому закону человек (или его представитель, родитель, например), имеет право не передавать свою персональную информацию. Поэтому, на условиях анонимности вряд ли получится проводить исследование. Такая работа потеряет смысли может только запутать следственные органы в обнаружении и предупреждении возможного преступления.
– Но если все же исключить момент анонимности, то куда будут поступать полученные и обработанные данные? Кто будет иметь доступ к ним?
– Можно надеяться, что только правоохранительные органы и органы предотвращением преступлений среди молодежи.
– А если информация станет доступна учителям и директорам?
– Возможно, это тоже хорошо. На месте будет проведена работа с ребенком, у которого обнаружится девиантное поведение. Станет возможным оперативно отправить ребенка к нужным специалистам и, таким образом, , вероятно, предотвратить потенциальную трагедию.
А пока программа по выявлению агрессии и деструктивного поведения среди школьников только готовится, в Обнинске уже запущена «система предиктивной безопасности». Эта разработка местной обнинской компании, состоящая из умных камер, способных с помощью искусственного интеллекта и нейронных сетей распознать нестандартное поведение школьника или опасную ситуацию.
– Если поведение ученика представляет угрозу ему или окружающим, — раскрывает принцип ее действия один из ее создателей Валерий Кандаулов, — в систему поступает сигнал, уведомляющий учителя и других ответственных сотрудников школы. Для определения психоэмоционального состояния ребенка, программа использует нейронную сеть, которая сравнивает и анализирует запрограммированную в нее матрицу эмоций, мимики, движений с полученной видео и звуковой информацией. Эта система может взаимодействовать и анализировать поведение в помещениях и предоставлять информацию об угрозах.
Если верить ее разработчикам, система предиктивной безопасности хоть и не может принимать решения самостоятельно, но является программой максимально быстрого реагирования и уведомления о психоэмоциональном состоянии учеников и целых классов.
