Главная » IT-индустрия » Джинни Рометти: компании с непонятными алгоритмами должны уйти с рынка

Джинни Рометти: компании с непонятными алгоритмами должны уйти с рынка

Джинни Рометти: компании с непонятными алгоритмами должны уйти с рынка


12:29 26.01.2018

|   267 прочтений


Необходимо добиваться полной прозрачности применения искусственного интеллекта: знать, кем, как и на каких данных проводилось обучение моделей, отражает ли оно профессиональные знания, утверждает глава IBM.

 

Генеральный директор корпорации IBM Джинни Рометти считает, что компании, которые не могут объяснить, как искусственный интеллект в их разработках принимает решения, должны уйти с рынка. Необходимо добиваться полной прозрачности применения технологий искусственного интеллекта: надо знать, кем, как и на каких данных проводилось обучение моделей, отражает ли оно профессиональные знания, имеются ли в нем непреднамеренные систематические ошибки и так далее, подчеркивает она в статье, опубликованной на Всемирном экономическом форуме в Давосе.

Системы искусственного интеллекта с нейронными сетями глубинного обучения, сложными алгоритмами и вероятностными графическими моделями становятся «черными ящиками», процесс принятия решений в которых невозможно объяснить. Некоторые компании — например, Oracle и Amazon — пытаются сделать их более понятными для людей, тогда как в Google сомневаются в пользе подобных объяснений, указывая, что люди тоже не всегда способны объяснить свои решения.

Рометти призывает коллег внедрять принципы прозрачности в отношении к данным. Компании должны четко заявить, кто владеет данными и ценной информацией, которую из них извлекают путем анализа. Таких же принципов должны придерживаться государственные органы, подчеркивает она.


Теги: IBM Искусственный интеллект Машинное обучение


x

Ещё про высокие технологии

В России могут создать рейтинг цифрового развития регионов

Источник: lenobl.ru 16:53 16.11.2018 |   154 прочтения Глава рабочей группы Госсовета РФ по цифровой экономике отметил, что необходимо тиражировать опыт регионов, которые добились серьезного прорыва в цифровом развитии.   Рейтинг регионов по цифровому развитию может быть создан в России, сообщает ТАСС ...

В столичном метро планируют запустить беспилотные поезда

Источник: mos.ru 17:55 16.11.2018 |   112 прочтений Запустить беспилотные поезда планируется на Кольцевой линии.   Столичные власти хотят в течение пяти лет запустить в Москве беспилотное метро, сообщает АГН «Москва» со ссылкой на заместителя мэра по вопросам транспорта и развития дорожно-транспортной ...