✔️ Какви са актуалните възможности на изкуствения интелект за ускоряване и подобряване на работата ни? ✔️ Какви са предимствата и рисковете, които са свързани с работата с изкуствен интелект на този етап на развитието му? ✔️ Трябва ли да ни притеснява фактът, че в един момент изкуственият интелект ще прави неща, които ние не очакваме от него?
Отговорите на тези въпроси се съдържат в записа на събитието „Как изкуственият интелект ще промени живота ни?“, което се проведе на 15 май 2023г. в Русе.
Аудио файлът следва, по-долу ще откриете видеото и файловете от презентацията.
Във видеото по-долу ще разберете още:
-
- От колко години се развива AI, какво се случи до момента и защо имаме такъв пробив последните години?
- Какво точно се отключи последните 2-3 години?
- Какво означава общ (general) и какво генеративен (generative) изкуствен интелект?
- Слонът в стаята – AI Alignment.
- Запис на видеото от събитието.
- Слайдове от презентацията.
- Участници в дискусията.
От колко години се развива AI, какво се случи до момента и защо имаме такъв пробив последните години?
AI като концепция е още от 50-те години, на миналия век, когато използването на компютри започва да става достъпна технология за по-големите фирми. Тогава се е смятало, че едва ли не 80-те години, в рамките на 30 години, изкуственият интелект ще стигне тези нива, които в момента имаме. Разбира се, че няма достатъчно теоретична основа и подготовка, за да се стигне до тези нива. Освен това, изчислителната мощ не е достатъчна.
Това, което днес се случва е наслагване във времето на много неща.
Едно от тях е изчислителната мощ, която в момента имаме. Дори в телефоните си, в джобовете си. Другото, което носи голяма стойност, е научната общност, която натрупва знания последните 20 години и прави няколко пробивни открития. С тях водят началото си неща като невронни мрежи – нещо, което е било трудно за възприемане: как компютърът може да симулира човешкия мозък. Но това е едно от нещата, които откриват нови хоризонти от 60-те години насам. (1957 година е първата дефиниция за невронна мрежа.)
От там нататък страшно много се инвестира в това, да се получи смислена технология в изкуствения интелект. Най-вече фирми, които инвестират за подобряване на продуктите си, за по-добро потребителско изживяване и повече ефикасност в различни направления.
В контекста на Open AI, какво точно се отключи последните 2-3 години? Кое даде това приложение на AI и възможността да го използваме за ежедневни нужди?
Служители на Google през 2017 година публикуват един доклад, който се казва Attention is all you need.
В него се говори за нов вид използване на невронна мрежа, наречена Transformer / трансформатор. Това е GPT, което означава Generative Pre-trained Transformer. Generative /генеративен/ е много ключова дума – тя описва процесът на генериране на съдържание от изкуствения интелект.
Какво означава общ (general) и какво генеративен (generative) изкуствен интелект?
Това са две различни неща. General и generative / генеративен. Но и двата термина са в контекста на изкуствения интелект.
Генеративен (generative) изкуствен интелект
Генеративен означава, че при подаване на входни данни, реакцията на невронната мрежа е да генерира следващата логична последователност на тези данни. По-скоро статистически вярна или статистически релевантна последователност.
Невронната мрежа има много интересна особеност, тя се учи, първо минава през един период на обучение. Затова се казва Pre-trained (P от ChatGPT). Предварително тази мрежа се тренира. Тя установява съответни състояния на невроните вътре, така че като се подаде едно изречение, тя предвижда каква ще е следващата сричка или дума.
Речта се разделя на срички или по-точно на части от думи – токени. Това е начина по който изкуствения интелект смила или обработва информацията.
Езиковите модели анализират нашите въпроси в чата, разбиват ги на токени /думи, срички, препинателни знаци и др. и създават съдържание, което се доближава смислово и логически до очакваните отговори. Поради тази причина в платената версия на Chat GPT ще се плаща на база на токени – какво количество текст или друго генерирано съдържание получаваме от езиковите модели.
Токен се възприема като част от дума и когато имаме голям брой токени като информация, с която е тренирана мрежата, тя вече си прави семантични връзки, между съответните срички. И от там възможността да предсказва следващата сричка / токен. Изглежда банално и простичко, но всъщност при тренирането на една такава мрежа с такъв огромен обем от данни, почват да възникват много интересни връзки между тези токени, и се придобива впечатлението, че невронната мрежа има истински интелект.
Генеративен идва от това, че отговорът се генерира по такъв начин, на база на всички тези релации, по начина по който е бил трениран изкуствения интелект.
Общ (general) изкуствен интелект
Artificial general intelligence. Това е следващата стъпка, спорно е дали сме там или не, в която изкуственият интелект може да се използва за неограничен брой видове решаване на задачи.
Смесваме информация от различни области на живота, от поезия, до математика и физика, всичко това отново се обработва чрез огромни масиви от данни, и на база на свързване на всички тези области на човешкото познание, всъщност могат да възникнат много интересни модели и възможности, които до момента не са били налични.
Дженерал / General ще включи всичко, което съществува в нашия живот, като видове данни. Така изкуствения интелект може да бъде използван за всеки един аспект от нашия живот. И това не се отнася само до текстове – същият принцип на обработка на информация /трениране/ и автоматизирано генериране на ново съдържание ще се приложи за аудио, снимки, видео, медицински данни и др.
Това трябва ли да ни притеснява от гледна точка факта, че в един момент този изкуствен интелект ще достига до модели, закономерности, ще прави неща, които ние не очакваме от него?
Притесненията идват от скоростта, с която големите езикови модели се налагат от големите корпорации и новите рискове, които съпътстват всяка възникваща технология. Прилагането на изкуствения интелект следва да става контролирано и да се забави интегрирането му в големи софтуерни платформи и продукти. Потребителите трябва да знаят кога едно съдържание идва от езиковите модели, да проверяват източниците, чрез които са генерирани отговорите, и да внимават какво споделят с чатботовете, понеже всичко може да бъде използвано като данни за третиране на изкуствения интелект.
Има специално направление в работата с изкуствения интелект, която се нарича AI Alignment – Адаптиране на изкуствения интелект към човешките ценности и нужди, като се избягват изкривявания и рискове, свързани с невярна информация и т.н.
Още за това как изкуственият интелект ще промени живота ни, вижте във видеото:
За участниците в дискусията:
Емил Стоянов е съосновател и СТО на високо технологичната компания Recheck, която се занимава с адаптирането на блокчейн технологията към нуждите на различните бизнеси.
Неговата експертиза е в областта на блокчейн, софтуерна архитектура и изкуствен интелект. Изпълнил е технологични решения за водещи мултинационални компании.
Иван Белчев е IT специалист по професия, а по призвание организатор на инициативи в сферата на екологията, подобряването на градската среда, спорта и туризма. Народен представител от Русе. Основател на Ruse GO – клуб, който има за цел да подобри средата на живот на русенци чрез туризъм, спорт и еко дейности.
През активния сезон организира ежеседмични походи в Природен парк “Русенски Лом”. Всички негови действия са подкрепени от доброволци, вярващи в каузата му. Проектите му са носители на множество награди.
Емилиян Енев е председател на сдружение Startup Factory и предприемач в сферата на новите технологии.
Един от основателите е на блокчейн компанията Recheck, която се занимава с адаптирането на технологията към нуждите на различните бизнеси.
Емилиян е участвал в разработването на няколко онлайн проекта и дигитални продукта, като неговите силни страни са бизнес мениджмънт, онлайн маркетинг, създаване на съдържание, валидиране на идеи, стратегии за монетизация и ангажиране на клиенти.
За мястото:
Хабитати – споделено пространство за любители на апетитни печива, фермерски продукти, ароматно кафе и крафт бира.
ул. „Добри Немиров“ 11 в гр. Русе.
Similar articles
Под повърхността: дълбоката и тъмната мрежа на интернет
Интернет крие много слоеве, за които може би не сте наясно. Първият от тях е мрежата на повърхността, до която всеки има достъп. Но знаете ли за дълбоката и тъмната мрежа?
Кои са съвременните технологии за защита на информацията?
Развитието на технологиите ни предоставя множество инструменти и методи за защита на ценната информация, за да справим с всякакви опити за кибератаки.
5 критични стъпки за киберзащита в НПО организациите, които не трябва да отлагате
Предлагаме ви 5 неотложни стъпки за киберзащита, които изпълнявани заедно, ще ви осигурат сигурност и спокойствие.
Организатор:
Startup Factory e организация с нестопанска цел, която работи от 2015 година за развитието на дигиталните и предприемачески умения на ученици, студенти и възрастни от Русе и за подобряване на предприемаческата екосистема в региона. Екипът организира обучения и тематични събития в три направления: ПРОГРАМИРАНЕ, ДИЗАЙН и ПРЕДПРИЕМАЧЕСТВО. Популяризира активно възможностите, които предоставят децентрализираните технологии и БЛОКЧЕЙН и тяхното приложение в бизнеса.
Партньори:
Фондация „Америка за България“ е независима, неправителствена и неполитическа американска благотворителна фондация, която работи в партньорство с български организации за укрепване на частния сектор и демократичните институции в страната.
Фондацията е плод на успеха на Българо- американския инвестиционен фонд (БАИФ), създаден през 1991 г. от Конгреса на САЩ с подкрепата на Американската агенция за международно развитие. За повече информация: us4bg.org.
ReCheck е един от пионерите в България, които разработват децентрализирани приложения върху блокчейн. Има множество с успешни пилотни проекти и клиенти зад гърба си. ReCheck Documents е последният продукт на компанията. Той позволява обмен на документи чрез високо ниво на сигурност, предоставено от децентрализирания модел на блокчейн.
ИСКАШ ЛИ ДА РАЗБИРАШ ЗА ВЪЗМОЖНОСТИТЕ В ДИГИТАЛНИЯ СВЯТ ПРЕДИ ВСЕКИ ДРУГ?
Запиши се за месечния ни бюлетин и ще научаваш всичко първи: събития, обучения, новини и възможности.
Развитието на технологиите ни предоставя множество инструменти и методи, които можем да приложим за защита на ценната информация, като предотвратим неоторизиран достъп до данни и се справим с всякакви опити за кибератаки. Да видим кои са тези съвременни решения.
Antispyware / антиспайуер програмите
Тези програми са създадени да действат като първа линия на защита срещу навлизането на шпионски софтуер в нашите компютърни мрежи. Те са изключително важни, тъй като шпионският софтуер може да събира конфиденциална информация без знанието или съгласието на потребителя. Това включва данни за личността, финансова информация, детайли за вход и друга чувствителна информация, която може да бъде използвана за измами или други злонамерени цели.
Функциите на антиспайуер софтуера включват сканиране в реално време, което гарантира, че всякакъв подозрителен софтуер е идентифициран още при опита му да навлезе в системата. Също така, той предоставя опции за задълбочено сканиране на цялата система, за да открие и премахне вече инсталиран шпионски софтуер.
Освен това, антиспайуер програмите често се актуализират, за да отговарят на нововъзникващите заплахи. Разработчиците непрекъснато анализират тенденциите на атаките и подобряват своите продукти, за да предложат надеждна защита срещу последните видове шпионски софтуер. Така потребителите могат да бъдат сигурни, че техните устройства са защитени с най-съвременните решения в областта на сигурността.
Важно е да се отбележи, че въпреки че антиспайуер програмите предоставят значителна защита, те трябва да бъдат част от по-широка стратегия за киберсигурност, която включва регулярни актуализации на софтуера, силни пароли и образование на потребителите за основите на киберсигурността. Това ще помогне да се запази целостта на информацията, която обменяме и съхраняваме, предотвратявайки не само шпионски софтуер, но и други видове кибератаки.
Антивирусен софтуер
Антивирусният софтуер играе критична роля в защитата на нашите компютърни системи и мобилни устройства. Вирусите не само че могат да повредят или изтрият важни данни, но също така могат да навредят на целостта на операционната система, да забавят работата на устройствата и дори да ги направят напълно неработоспособни. Последствията от такива атаки могат да бъдат не само разходи за възстановяване или замяна на скъпоструваща техника, но и значителни загуби от прекъсване на работния процес.
Антивирусният софтуер предлага непрекъснато мониторинг и защита в реално време, като автоматично идентифицира, блокира и премахва вируси, троянски коне, червеи, и друг зловреден софтуер. Тези програми също включват способността да сканират всички входящи и изходящи файлове, както и да проверяват системата за наличие на потенциални заплахи, които могат да бъдат активирани в бъдеще.
Много антивирусни решения включват и допълнителни функции като защита срещу фишинг атаки, шпионски софтуер и рекламен софтуер. Те също така предлагат инструменти за управление на пароли и сигурност на уеб браузъра, което е изключително важно в свят, където интернет заплахите постоянно еволюират.
Освен автоматичната защита, съвременните антивирусни програми често предоставят потребителски интерфейс, който позволява лесно настройване и управление на защитните функции в зависимост от специфичните нужди на потребителя. Това включва регулиране на нивото на сканиране, планиране на автоматични сканирания и персонализиране на уведомленията за сигурност.
В допълнение, множество антивирусни програми предлагат обновления на сигурността, които се извършват автоматично, за да гарантират, че защитата е винаги актуална срещу новите и развиващи се заплахи. Това е особено важно в среда, където нови вируси се създават и разпространяват с бързи темпове.
Така антивирусният софтуер не само помага за предотвратяване на инциденти, свързани с повреждане на данни и софтуер, но също така служи като основен инструмент за поддържане на здравословна и ефективна работна среда във всяка организация или за лична употреба.
Криптиране на данни
Криптирането на данни е фундаментален процес, който преобразува вашата чувствителна информация от нейния оригинален, лесно четим формат в кодиран вид, който може да бъде разчетен само със специален ключ. Тази техника е съществена за защита на данни при тяхното съхранение на твърди дискове, мобилни устройства или облачни платформи, както и при изпращане по интернет или други мрежи.
Има два основни вида криптиране – симетрично и асиметрично.
Симетричното криптиране използва един и същи ключ за криптиране и декриптиране на данните. Този метод е бърз и ефективен за обработка на големи обеми данни. Асиметричното криптиране, от друга страна, използва два различни ключа – един за криптиране и друг за декриптиране. Този метод е по-безопасен, тъй като дори ако криптиращият ключ стане известен, само притежателят на съответстващия декриптиращ ключ може да разчете информацията.
Криптирането на данни се използва в множество приложения за защита на личните данни, финансова информация, корпоративни данни и други важни документи. Например, банковите институции използват криптиране за защита на финансовите транзакции, докато здравните организации го използват за защита на медицинските записи на пациентите.
На пазара съществуват различни програмни решения за криптиране, които могат да се интегрират лесно в съществуващи системи за управление на информация. Тези програми предлагат различни нива на сигурност, като позволяват на потребителите да изберат степента на криптиране в зависимост от специфичните нужди на тяхната организация или личните изисквания за сигурност.
Въпреки предимствата, криптирането също така поставя някои предизвикателства, като например нуждата от управление на криптиращите ключове, което може да бъде трудоемко и изисква допълнителни мерки за сигурност. Много съвременни решения включват автоматизирано управление на ключовете, което помага на организациите да поддържат ефективна и сигурна среда за криптиране.
За да осигурите максимална защита на вашите данни, е важно да интегрирате криптирането като част от цялостната стратегия за информационна сигурност на вашата организация или личен дигитален живот. Така може да сте спокойни, че вашата информация остава недостъпна за неправомерен достъп или изтичане.
Облачна сигурност
Облачната сигурност се отнася до комплекс от мерки и технологии, предназначени за защита на данните, приложенията и инфраструктурата, хоствани в облака. Този вид защита е особено важен за институции и организации, които разчитат на облачни услуги за споделяне, съхранение и обработка на информация. Предвид глобалния достъп и динамичната среда на облачните платформи, те са честа мишена за кибератаки от различни видове.
Основни аспекти на облачната сигурност
Защита на данни: Осигуряването на криптиране на данните преди тяхното качване в облака е критично за предотвратяване на достъп до тях от неоторизирани лица. Криптирането на данните в покой и при изпращане гарантира, че информацията остава защитена.
Управление на идентификациите и достъпа: Строгите политики за управление на идентификациите и достъпа гарантират, че само упълномощени потребители имат достъп до ресурси в облака. Това включва използването на многофакторна автентификация и сложни пароли, което значително намалява риска от неоторизиран достъп.
Резервно копиране и възстановяване: В случай на кибератака или технически проблеми, наличието на актуални резервни копия на данните е жизненоважно за бързото възстановяване на операциите. Резервните копия трябва регулярно да се актуализират и съхраняват на сигурни места.
Използването на облачни услуги създава уникални предизвикателства за сигурността, включително управлението на разпределените данни и контрола върху множество потребители и устройства. За успешното справяне с тези предизвикателства, организациите трябва да вземат под внимание не само техническите аспекти, но и да обучават своя персонал относно добрите практики за облачна сигурност.
Вижте още 👉 Сигурност на имейла през 2024 – актуални съвети
Управление на достъпа
Управлението на достъпа е ключов елемент в стратегиите за информационна сигурност на всички организации. Този процес включва дефинирането на ясни правила и процедури за това кой може да вижда, използва или управлява определени данни и устройства. Ефективното управление на достъпа гарантира, че чувствителната информация е защитена и че само упълномощени лица имат възможност да взаимодействат с критични системни ресурси.
Основни аспекти и методи на управление на достъпа
Политики за минимални права: Този подход осигурява на служителите достъп само до тези ресурси, които са им необходими за изпълнението на техните работни задачи. Това намалява риска от злоупотреба с информация и ограничава възможните щети при евентуални нарушения на сигурността.
Многофакторна автентификация (MFA): MFA добавя допълнителни нива на сигурност при проверка на идентичността, изисквайки от потребителите да предоставят два или повече доказателства за своята самоличност. Това може да включва нещо, което знаят (парола), нещо, което притежават (телефон), или нещо, което са (биометрични данни).
Сегментиране на мрежата: Разделянето на мрежовите ресурси в различни сегменти позволява по-фин контрол върху достъпа. Така чувствителната информация може да бъде изолирана и защитена от неоторизиран достъп.
Регистрация и мониторинг на достъпа: Записването на всички опити за достъп до системите и следенето на дейността на потребителите помага за идентифициране на подозрително поведение и реагиране на възможни заплахи. Това също така осигурява важна информация за анализ на сигурността и подобряване на политиките за достъп.
Обучение на служителите: Разбирането и спазването на политиките за управление на достъпа от всички служители е съществено за тяхната ефективност. Редовното обучение и информиране на персонала относно принципите и практиките за сигурен достъп могат значително да увеличат защитата на организационните активи.
Управление на мрежовата сигурност
Управлението на мрежовата сигурност е критичен аспект от киберзащитата на всяка организация, тъй като много кибератаки се осъществяват чрез експлоатиране на уязвимости в мрежовата инфраструктура. Ефективното управление на мрежовата сигурност изисква комплексен подход, който включва различни стратегии и технологии за защита на мрежовите ресурси и данни.
Компоненти на мрежовата сигурност
Файъруоли (Firewalls): Файъруолите служат като бариера между вътрешната мрежа на организацията и външния свят, контролирайки входящия и изходящия трафик на база предварително зададени правила за сигурност. Те са от съществено значение за предотвратяване на неоторизиран достъп и блокиране на зловреден трафик.
Интрузивна защита (Intrusion Prevention Systems - IPS): IPS мониторинг системите наблюдават мрежовия трафик за аномалии, които могат да указват опит за кибератака, и автоматично предприемат действия за блокиране или премахване на заплахи.
Антивирусна защита за мрежи: Съвременните мрежови антивирусни решения сканират мрежовия трафик за зловреден софтуер и други заплахи, осигурявайки допълнителен слой защита.
Виртуални частни мрежи (VPNs): VPNs са изключително важни за защита на данните, които се транспортират през интернет, като предоставят криптиран канал за комуникация между потребителите и мрежовите ресурси.
Управление на уязвимостите: Редовните оценки на уязвимостите и актуализациите на софтуера помагат за идентифициране и отстраняване на потенциални слабости в мрежата преди те да бъдат експлоатирани от нападатели.
Стратегии за подобрение на мрежовата сигурност
- Обучение на служителите: Разбирането и прилагането на добри практики за мрежова сигурност от всички служители може значително да намали риска от кибератаки.
- Сегментация на мрежата: Разделянето на мрежата на сегменти може да ограничи разпространението на зловреден софтуер и да улесни управлението на сигурността.
- Регулярен мониторинг и реакция при инциденти: Непрекъснатият мониторинг на мрежовата активност е съществен за бързо откриване и реагиране на кибератаки.
- Използване на съвременни технологии: Интегрирането на нови технологични решения, като изкуствен интелект и машинно обучение, може да помогне за по-ефективно идентифициране и блокиране на заплахи в реално време.
Укрепването на мрежовата сигурност е непрекъснат процес, който изисква ангажираност и активно участие от всички нива на организацията. С развитието на технологиите и методите на нападение, плановете за киберсигурност трябва постоянно да се преразглеждат и актуализират, за да осигурят надеждна защита срещу всякакви кибер заплахи.
Освен тези технологии, важно е лидерите да осигурят обучение на служителите за осъзнаване на рисковете от киберсигурност.
За да подпомогнем НПО в тази критична област, ние от Startup Factory предлагаме специализиран видео курс "Информационна сигурност за НПО". Този курс е разработен с цел да предостави на служителите в НПО необходимите знания и умения за защита на тяхната работа в цифровата среда. Курсът включва модули, които обхващат основите на киберсигурността, стратегии за разпознаване на фишинг и правилното управление на чувствителни данни.
Обучението е подходящо както за нови, така и за опитни служители и предлага практически съвети, които могат веднага да бъдат приложени в ежедневната работа на организацията.
Публикацията е подготвена от Теодора Енева по материали от agile-ed.com
Тази статия е част от серия публикации, които имат за цел да подобрят уменията на служителите на организациите на гражданското общество в областта на информационната сигурност.
В днешно време, когато информацията играе все по-голяма роля и организациите работят с голям обем от чувствителни данни, заплахите за информационната сигурност се увеличават. Недостатъчната информационна сигурност може да наруши конфиденциалността на данните, да изкриви тяхната достоверност и да ограничи достъпността им, което води до сериозни последици, вкл. загуба на доверие от страна на партньорите, финансови загуби и нарушаване на репутацията.
