28 листопада 2020 р.

Небезпечні тенденції в технологіях, про які необхідно знати

Небезпечні тенденції в технологіях, про які необхідно знати

Новітні технології вносять в наше життя зручність,захоплення і масу позитивних емоцій, проте ми зобов'язані дотримуватися пильність через можливих негативних наслідків використання інновацій. Вашій увазі наданий список з 7 найнебезпечніших технологічних тенденцій, які вже проявили свою темну сторону.

підроблені новини

«Пропаганда - це мистецтво сфотографувати риса без копит і рогів».

Ханс Каспер (1916 - 1990) - німецький письменник і автор радіопостановок.

У світових ЗМІ неухильно зростає кількість програм на зразок GROVER - системиштучного інтелекту, здатної написати підроблену новинну статтю на будь-яку тему. Такі програми генерують більш правдоподібні статті, ніж це роблять копірайтери. Секрет в тому, що AI обробляє великі обсяги даних і підкріплює свої статті фактами, про які людина не завжди навіть може здогадатися.

Найбільш успішною в цьому напрямку сталанекомерційна компанія OpenAI, підтримувана Ілона Маском. Результати роботи OpenAI настільки гарні, що організація спочатку вирішила не публікувати результати досліджень публічно, щоб запобігти небезпечному неправильне використання технології. Головна небезпека правдоподібних фейковий новин полягає в тому, що їх якість може обдурити навіть критично мислячих людей, не схильних до промиванню мозку пропагандою.

рої дронів

Самий гучним прикладом негативного використаннядронів стала їх недавня атака на нафтові платформи Саудівської Аравії, збиток від якої склав сотні мільярдів доларів. В результаті атаки світові запаси нафти спорожніли приблизно на 5%, але зручність використання безпілотників для проведення військових операцій говорить про те, що подібні ситуації будуть відбуватися і далі.

Рой дронів може організовуватися для досягненнямети за допомогою взаємодії один з одним, створюючи новий вид наднебезпечними зброї. На даний момент технологія ще знаходиться на стадії експериментів, але реальність рою, який зможе координувати свою поведінку для досягнення найскладніших військових завдань, наближається до дійсності.

Небезпечні тенденції в технологіях, про які необхідно знати

Шпигунство пристроїв розумного будинку

Щоб пристрої «розумного будинку» могли відповідати назапити і бути максимально корисними, вони повинні бути оснащені мікрофонами для прослуховування голосових команд. Коли людина встановлює в своїй кімнаті розумну колонку, він також розписується в тому, що тепер в його будинку живе ще й маленький скрупульозний шпигун, який не пропускає повз своїх вух ні єдиного слова.

Всі інтелектуальні пристрої збираютьінформацію про звички та вподобання, місце проживання і маршрути пересування, час прибуття та догляду з дому. Ця інформація робить життя більш зручною, але існує й імовірність зловживання даними. Злодії і шахраї активно працюють над інструментами, які дозволять їм заволодіти всією зібраною інформацією. У разі успішного злому особистих даних з хмарних серверів Amazon, Google, Yandex або будь-який інший платформи штучного інтелекту, зловмисники отримають всю необхідну інформацію для шантажу або крадіжки вже справжніх речей з дому.

Одним з найгучніших скандалів в цьомунапрямку стало прослуховування співробітниками Amazon записів розмов їх клієнтів з розумною колонкою Amazon Echo навесні поточного року. Очевидно, що співробітники Amazon не повинні використовувати отриману інформацію для корисливих цілей, але гарантувати цього ніхто не може.

Розпізнавання обличчя завдяки відеокамер

Виробник смартфонів Huawei в минулому роцізвинувачувався у використанні технологій розпізнавання особи для стеження і расового профілювання, а також передачі ключів доступу до іноземних мереж китайської розвідки.

Мільйони камер на смартфонах і ноутбукахвикористовуються для відстеження та розпізнавання людей не тільки в КНР - подібна практика була помічена мало не в кожній країні світу. Різниця полягає лише в тому, що десь це вдалося довести (справу Сноудена в США), а десь - ні.

Небезпечні тенденції в технологіях, про які необхідно знати

AI-клонування

Штучний інтелект здатний генеруватифрази голосом будь-якої людини. Для цього достатньо всього одного фрагмента аудіозаписи з його голосом. Схожим чином ІІ може створити відео з будь-якою людиною, яка буде виглядати природно і правдоподібно. Негативні наслідки таких відео і аудіозаписів великі: від злому банківських рахунків до шантажу і політичних скандалів.

Deepfake використовує картування особи, машинненавчання і штучний інтелект для створення моделей поведінки. В якості вихідних даних для генерації фейк виступають різні форми обличчя людини, отримати які легше з великого масиву записів. Раніше такі обсяги даних у відкритому доступі були властиві тільки знаменитостям, але соціальні мережі змінили це. Тепер звичайні люди завантажують гігабайти аматорських відео з собою, надаючи майстрам з Deepfake всі необхідні вихідні для обробки.

Найуспішніше з виявленням фейковий відео справляється програма, створена в університеті Берклі.

Віруси і фішинг в поєднанні з ІІ

Штучний інтелект дуже сильно спрощуєроботу фішингових мереж, яким необхідний ефективний інструмент автоматизації і масштабування обсягу робіт. ІІ допомагає зловмисникам краще знаходити «слабкі» поштові адреси і акаунти в соціальних мережах, точніше складати тексти вірусних листів-вудок, ефективніше обходити антивірусне ПЗ і, найважливіше, збирати гроші в автоматизованому режимі без ризику відстеження правоохоронними органами. В останні роки висновок грошових коштів набагато частіше став проводитися за допомогою криптовалюта.

Небезпечні тенденції в технологіях, про які необхідно знати

розумна пил

Мікроелектромеханічні системи (MEMS)відрізняються мікроскопічними розмірами аж до піщаної крупи. Найменша деталь розумного пилу називається марнотратом. Мот - це датчик, який володіє власним обчислювальним вузлом, сенсорами, системами харчування і передачі даних. Моти можуть об'єднуватися з іншими порошинами, утворюючи те, що називають розумною пилом. Такі системи вже застосовуються зловмисниками в промислових масштабах в тих випадках, коли необхідно максимально приховати стеження.