Валтер Фракаро: „ИИ без етика не е истинска интелигентност“

Разузнаване на състоянието на изкуството и бъдещето на изкуствения интелект в света с експертния мениджър от Венето на срещата на върха на SAIHub в Сиена

Е роден в Torino, семейните му корени се връщат към платото на Asiago, но избра Toscana да живеят и работят; се счита за един от водещи световни експерти в областта на изкуствения интелекта от себе си Уолтър Фракаро той предпочита да казва това, което наистина има значение за него: „Аз съм човек, който кара колело, който също чете менюто със сирена, който смята, че ако не си научил нищо онзи ден, си сбъркал да станеш, че ако имаме толкова много глаголи като уча, уча, знам, разбирам и обяснявам, това е защото всеки се базира на предишния, който е на 56 години и цени младите хора повече от тези на неговата възраст...“.
Президент di SAIHub, съкращение от Център за изкуствен интелект в Сиена, полюс от световно значение в областта на науките за живота, е убеден, че Науки за живота сено от съществено значение за постигането на Цели за устойчиво развитие определен отООН, и следователно „Работя за насърчаване на все по-широкото използване на изкуствения интелект в компаниите и за организиране на ориентиращи дейности за младите хора, така че да могат да се запалят по науката и да я изберат като професия“.

Като консултант той винаги е помагал на компаниите в дефиниция на проекти за изкуствен интелект, насочени към създаване на реално конкурентно предимство, като се грижат за технологичните, етичните и социалните аспекти, с особено внимание към устойчивостта. Той също така действа като съветник на частни компании, фондации и бизнес консултантски фирми в областта наИзкуствен интелект приложен към R & D, т.нар Научни изследвания и разработки. В този контекст той е написал шест проекта по темата Науки за живота, всяка от които е получила публичен и частен принос и финансиране.
В своята професионална траектория той е срещал пътища с различни италиански компании и местности, винаги на много отговорни позиции, някои все още актуални, други свързани с миналото, всички в период от време, съвпадащ с последните две десетилетия: Фондация Монте дей Паски от Сиена, bba Изпълнение на биотехнологичното обещание, Parolin Legal, Ахилесови ваксини, Фондация Живот, 4Науки, Dedagroup ICT Network и престижното университет в Падуа.

Най-известната дефиниция на изкуствения интелект на италиански език е тази на инженера Марко Сомалвико, един от пионерите в тази област. Той казва: „Това е дисциплина, принадлежаща към информационните технологии, която изучава теоретичните основи, методологиите и техниките, които позволяват проектирането на хардуерни системи и системи от софтуерни програми, способни да осигурят на електронния компютър характеристики, които за обикновен наблюдател биха изглеждали като изключителна приложимост на човешкия интелект“. Дали това е фраза, която е все още актуална или би била достойна за "купон"? И какво е "обяснението", което експерт като Валтер Фракаро дава за ИИ?
„Това е определение, което с това „изглеждат“ уцелва целта. Свикнали сме да приписваме интелигентност на тези, които могат да решават сложни проблеми и следователно, когато видим компютър да победи шампион по шах, смятаме, че той упражнява някаква форма на интелигентност и тук възниква недоразумението. Въпреки че не може да се изключи, че в бъдеще ще бъде възможно да се прехвърли биологичният капацитет на мозъка да произвежда интелект към машина, днес сме много далеч от нещо подобно. Големият потенциал на AI е да може да свързва много различни данни една с друга, нещо невъзможно за човешките възможности, но типично за компютър. Накратко, ние, хората, имаме качествени умствени способности (усещаме удоволствието, което може да ни достави Деветата на Бетовен), компютърът е много по-добър от нас на количествено ниво (може да анализира стотици или дори хиляди фактори и например да ни покаже сред 10-те до 10-те възможни молекули тези XNUMX, върху които да концентрираме усилията си, за да излекуваме определена болест). Що се отнася до определението за изкуствен интелект, мисля, че е по-добре да се приеме стандартно, за да не се натъкваме на затруднения при съвместна работа. Тази, дадена от Европейския съюз, може да е малко дългосрочна, но гарантира, че ще продължи през годините. Що се отнася до мен, често използвам израза „математически-дигитални инструменти“, за да обобщя всички инструменти, които използваме за създаване на AI решения“.

Кой е Валтер Фракаро? И как бихте описали себе си като цяло, както и във връзка с дейността Ви в развитието на "Изкуствен интелект"?
„Намирам, че е много по-лесно да опиша AI! Да кажем, че цялата ми професионална кариера, вече почти четиридесетгодишна, премина в информационните технологии. Започнах като чирак, първо станах частен мениджър, а след това публичен, основах две компании в сектора. Най-вече имах голям късмет да работя с велики майстори, хора, които ме тласнаха да упражнявам определен критичен усет и да разрешавам проблеми, като схванах решаващата им точка. В този смисъл и за да спомена само един, споменавам професор Джанфранко Биларди, с когото имах удоволствието да работя ежедневно през трите години, когато бях директор на университета в Падуа: като пример той ме научи да използвам логиката по дълбок и проницателен начин. Дали съм научил достатъчно, предстои да видим! Той е един от хората, които не обичат светлината на прожекторите, но в областта на теоретичната компютърна наука, тази, която тласка технологиите напред и изисква максимална логическа ангажираност, той е известен по целия свят, като е отворил врати към мисълта, която сякаш устоява на всяко усилие на човешкия ум. Що се отнася до изкуствения интелект, започнах от моята професия, ИКТ, и от моята страст, науката. Приложението на изкуствения интелект в научните изследвания е водещият резултат, получен през последните няколко десетилетия, откакто е изобретен този израз, когато означаваше нещо различно от днес. Днес съчетавам този опит с много години, прекарани в проектиране и предоставяне на ИТ решения на компании от всякакъв тип, размер и сектор, така че да се възползвам максимално от AI, който е инструмент за подобряване на бизнеса, което остава целта. И днес, както никога преди, подобряването на бизнеса означава подобряване на света: ако искаме устойчиво развитие, трябва да превърнем тази проста концепция в наша собствена."

Какво можете да ни кажете за SAIHUB „Център за изкуствен интелект в Сиена“? Каква е неговата институционална мисия, както и тази на партньорите и основателите, и как всички те се вписват в траекторията на растеж на AI?
„В Сиена има икономически район, свързан с науките за живота, който няма равен в Европа по отношение на концентрацията на знания и умения в изследването и разработването на нови лекарства, медицински изделия, методи и технологии за сектора на хранително-вкусовата промишленост. Освен това има университет, който има високи постижения в същите области и в областта на изкуствения интелект. Именно от тази основа преди няколко години фондацията Monte dei Paschi di Siena започна да мисли за създаването на център, посветен на AI, за да насърчи въвеждането на тези методологии в сектора на науките за живота, така че да укрепи местната икономика чрез привличане на хора, компании и капитал в района, способни да гарантират позицията на международно превъзходство на екосистемата на Сиена и Тоскана в бъдеще. След като идеята беше предложена от FMPS, университетът на Сиена, фондацията Toscana Life Sciences, община Сиена и Confindustria Toscana Sud веднага се присъединиха. В този момент и със същата учредителна роля беше създадена бизнес мрежата SAIHub, към която днес принадлежат около тридесет компании от цяла Италия и извън нея: наскоро се присъедини и базираната в Тичино Moresi.com, която с италиански партньор създаде Tecnoscientia, която е базирана в SAIHub. Ние сме посветени на различни дейности, насочени към младите хора и бизнеса. Това лято създадохме първото италианско лятно училище по изкуствен интелект и наука за живота: деветдесет момичета и момчета, които току-що бяха завършили четвъртата година на гимназията, успяха да участват безплатно в пет дни ориентиране по тези предмети. Нашето намерение беше на първо място да създадем социално съзнание и, второ, да накараме младите хора да се запалят по науката, така че може би те да се запишат в университета в Сиена и да станат изследователите на утрешния ден. Следващото лято отново ще предложим тази инициатива и очакваме поне 200 момчета и момичета. Освен това сме финансирали няколкостотин хиляди евро стипендии за най-добрите университетски таланти и накрая създадохме икономически награди (до 10.000 XNUMX евро всяка) за онези, които, след като са получили магистърска или докторска степен, се присъединят към екипите на компаниите в „мрежата“ и останат там поне една година. Последната инициатива има за цел да накара тези млади хора да разберат, че в Сиена има възможности за развитие на техните научни и кариерни знания, които не са по-ниски от тези в чужбина. Така те могат да изберат да отидат извън Италия, но знаят, че не са принудени и във всеки случай, че когато поискат да се върнат, ще могат да намерят земя, готова да накарат способностите им да процъфтяват. След това започнахме да подпомагаме финансово проектите за AI, представени от различните компании в „мрежата“ в сътрудничество помежду си. Седем от тези проекти се споделят с университета в Сиена и са спечелили регионалното финансиране на няколко стипендии за научни изследвания.

И Италия дава зелена светлина на плана за изкуствен интелект

Коя е „най-високата точка“, достигната в момента от изкуствения интелект, целта, отвъд която не е успял да стигне досега? Въпросът е приложим за целия свят и за Италия...
„В този случай отговорът може да бъде само субективен. Междувременно можем да започнем от най-високите ценности: спасяването на човешки животи, например. В този случай е правилно да се замислим колко подходящ е AI в изследванията и разработването на ваксини срещу COVID и лекарства за борба с тях. Създаването на ефективни ваксини за по-малко от година би било невъзможно без приноса на изкуствения интелект. Както каза Рино Рапуоли, изключителен италиански учен и референт в световната ваксинология, ако някога следващ вирус заплаши човечеството, както прави коронавирусът, благодарение на AI ще можем да идентифицираме характеристиките на необходимата ваксина в рамките на 24 часа след момента, в който знаем нейното ДНК. Все още оставайки в областта на здравето, нека се опитаме да помислим какво означава „персонализирана медицина“. Днес всички използваме едни и същи лекарства, мъже и жени, млади и стари, където и да живеем по света (поне там, където има налични лекарства...) и независимо от нашите навици, диета, среда. Случва се да отидем на лекар, той ни нарежда да приемаме две таблетки за седем дни и след това отиваме в аптеката и купуваме опаковка, която съдържа 30. Чист отпадък, за да произвеждаме, опаковаме, разпределяме, изхвърляме излишното. Персонализираната медицина, достъпна след няколко години благодарение на AI, ще ни лекува по-добре, защото лекарството ще бъде направено за отделния пациент, в мярката и формата, които са най-подходящи за него. Лечението по този начин ще даде по-добри резултати, което означава по-малко шансове да попаднете в болница и, ако трябва да отидете там, да останете там по-малко време, като по този начин се намалява необходимостта огромни сгради да се отопляват през зимата и охлаждат през лятото, с ужасяващи разходи за поддръжка, замърсяване, използване на земята и т.н., и т.н. Разходите за здравеопазване са на стойност 10 процента от световния БВП, следователно всяко спестяване струва милиарди: с AI можем да спестим много, както и да се грижим по-добре за много повече хора. Казвам „AI“ за простота, но нека винаги помним, че това е средство: хората улавят резултатите, прилагайки изобретателност и съвест. Нито изкуственият интелект, нито човекът правят чудеса, но ако единият използва добре другия, тогава могат да се постигнат големи цели. Днес цялото световно население, в своите икономически, социални и политически компоненти, е ангажирано в „прехода“, т.е. пътя към постигане на система, която създава, чрез устойчивост, условия, при които човешкият живот е по-добър, без това да означава влошаване на живота на цялата планета, както направихме през последния век и половина. AI е инструмент, който може да помогне много в това пътуване”.

Какво мислите за Стратегическата програма за изкуствен интелект 2022-2024 г., резултат от съвместната работа на италианското Министерство на университетите и научните изследвания, Министерството на икономическото развитие и италианското Министерство на технологичните иновации и цифровия преход, стартирана през последните дни от Palazzo Chigi? Убедени ли сте във всички двадесет и четири програмни точки, съобщени на обществеността, във връзката между средства и цели, или бихте направили корекции в някоя от тях?
„Първо трябва да се каже, че писането на тази програма не трябва да е било никак лесно и трябва да се има предвид това, когато се критикува, защото работата на другите често се подценява, смятайки, че би било по-лесно да се направи по-добре. Като казах това, считам, че този документ, тъй като е насочващ, върви в правилната посока. Тогава задачата на законодателя ще бъде да гарантира, че приложението му наистина благоприятства развитието на компаниите, които създават AI решения, и тези, които ще ги използват. В сравнение с Програмата смятам, че щеше да е още по-добре, ако включваше международния дебат по етични въпроси по отношение на изкуствения интелект. Убеден съм, след години работа и непрекъснат диалог с много оператори, експерти и компании, че истинският успех на всеки AI проект е тясно свързан с дълбочината на етичния анализ на контекста, в който се намира, и неговите възможни резултати.

Качествен форум за AI и бизнеса

Както стоят нещата, колко „интелигентност“ и колко „изкуственост“ наистина има в AI? Човекът все още ли е едновременно границата и двигателят на опита за възпроизвеждане на синапсите на мозъка, мярката на всичко?
„Кратък отговор: „ако е интелигентен, не е изкуствен; „ако е изкуствено, не е интелигентно“, както казва Лучано Флориди. По-дълъг отговор: „ако съзнателно говорим за интелигентност, тогава се нуждаем от точна дефиниция поне на човешкия интелект, а ние все още я нямаме“. Трудно е да се определи какво е интелигентността, освен във връзка със съзнанието и така въпросът става още по-сложен. Тогава трябва да попречим на желанията, които създават цели. Можем да кажем едно нещо: към днешна дата машините нямат съвест, нямат желания, нямат цели, следователно нямат интелигентност. „Изкуството“ си остава, да. Данте Алигиери използва тази дума, за да означава нещо с голяма стойност в материалите и уменията на неговия строител, пълно в своята видимост. Кой знае дали би искал да види как сме оформили математиката и електроните, за да решаваме проблеми, които са твърде големи за нашия ум. ИИ си остава определено човешко явление и се страхувам, че да му дадем толкова много власт, че да ни изплаши, е начин да скрием отговорностите си. Като всяка технология, изобретена от човека, дори ако това е първата пръчка, с която един от нашите древни предшественици е накарал животно от саваната да избяга, ние сме отговорни за нейното използване. И колкото по-добре го използваме, толкова повече ставаме „сапиенс“. Що се отнася до синапса, струва ми се, че мечтата на двадесети век за използване на електроника за симулиране на мозъка вече не е целта на изкуствения интелект, поне не в неговата практическа и индустриална форма. Наричаше се „кибернетика“, помниш ли? Беше като обиколка на нашата културна история: за гърците Кибернет беше този, който управляваше кораба и, в последствие, също града... сега пишем кибернаута, с това y, което ни се струва английско, а вместо това е пръстовият отпечатък на нашите предци. Ние винаги управляваме кораба, но понякога се страхуваме от самия кораб повече от морето. AI е само най-новият модел лодка: пред него е океанът от неща, които не знаем, и от нашата съвест. За целта се нуждаем от етика, компас, за да знаем къде сме и да решаваме накъде да вървим. Ние сме „мярката за всичко“ не защото сме по-добри от другите същества, а защото нямаме друг избор. Можем само да гледаме на Вселената с всичките си граници и, може да се каже, ние сме видът, който знае най-много как да използва технологиите, за да ги надхвърли.

Какво е машинно обучение (наричано още „машинно обучение“ на английски) и защо е клон на изкуствения интелект, който придобива все по-голямо значение? Програмирането премина ли към обучение, в резултат на което роботиката стана истинската област на приложение на тези технологии?
„Да започнем от края. Роботът идва от чешкото "Robota", което означава "упорита работа", а преди това е означавало "робство, робство". Когато провеждам семинарите си в компании, винаги питам тези, които ме слушат, каква работа ни е позволила тази технология да поверим на машини, които те биха искали да се върнат да вършат на ръка. В крайна сметка никой. Защото ние, хората, не обичаме работата, разбирана като принудително усилие. В Библията работата е наказанието, което Бог налага на Адам и на различните езици думата, която означава „работа“, винаги има корен, който говори за робство. В крайна сметка „машинното обучение“ е начинът, който сме измислили да прехвърлим това, което наричаме „опит“ към машините. Достатъчно е детето да наблюдава три котки, за да нарече следващата, която види „котка“; компютърът трябва да покаже хиляди и хиляди снимки на котки, преди да разпознае една и да я идентифицира като „котка“. Само че хиляди или милиони снимки, компютърът ги изследва за няколко секунди и е в състояние да направи същото с огромни количества цифрови данни или с книги и научни текстове: не е полезно за нас да различаваме котките, но се интересуваме от факта, че може да помогне на изследовател, защото той е успял да прочете за миг количество информация, която хората дори не биха могли да преглеждат, ако са живели стотици години. В обобщение, ние се уверяваме, че тежката работа, тази, която не харесваме и в която дори не сме много добри, е поверена на машина и ние използваме „машинно обучение“ (и подобни техники), за да й дадем необходимия опит, за да я върши добре. Той работи, мислим ние”.

Ще дадат ли квантовите суперкомпютри и квантовата физика решителна повратна точка за теоретичния и практически растеж на изкуствения интелект или има друг път? И защо?
„Квантовите суперкомпютри имат напълно уникални възможности и са и ще бъдат използвани за решаване на друг ред проблеми, само рядко подобни на тези, с които се сблъскваме с AI. Те вероятно ще ни бъдат полезни един ден, за да симулираме мозъка, който има биологично и електрическо функциониране, което със сигурност е по-подобно на това на квантовия компютър, отколкото на конвенционалния, но AI, за който мислим днес и за близкото бъдеще, е свързан с обикновените форми на изчисление, които използваме в нашите смартфони или персонални компютри. И дори така, все още имаме да извървим дълъг път“.

Швейцарска мрежа за компетентност за изкуствен интелект

Трябва ли прилагането на AI или AI, каквото и да предпочитате, наистина да бъде предмет на етични и морални ограничения или възможната конкуренция между машини и хора е фалшив въпрос? Дали хомо сапиенс ще намери в изкуствения интелект алтер егото, способно да изравни сметките с природата?
„Добри въпроси, особено ако се задават последователно! „Възможната конкуренция между машини и хора“ не е във фокуса на това, което наричаме AI Ethics. По-конкретно етиката, т.е. правилата, около които се съгласяваме да получаваме ползи, а не вреда от нашето индивидуално и социално поведение, трябва да можем да анализираме контекста, в който прилагаме изкуствения интелект, за да можем да предвидим крайните резултати и да избегнем отрицателните. ИИ има много етични аспекти, които трябва да бъдат управлявани. Единият, най-известният, но и най-обсъжданият и за който вече имаме адекватни средства и поведение на наше разположение, е неприкосновеността на личния живот. В обобщение, не трябва да е възможно да се направи справка с данните, за да се разграничат тези, които описват конкретно лице, освен при определени условия, контролирани и приети от лицето. Има обаче по-фини аспекти. Трябва, например, да попречим на компютъра да действа върху данни, използвайки погрешните начини на хората, като например склонността да се използва пристрастие в нечии избори. Освен това трябва да избягваме прилагането на изкуствения интелект, който се радва на собствена автономия в намирането на начини за даване на отговори на поставените проблеми, да не разкрива ясно логичния път, който го е ръководил и довел до определен резултат. Може да се продължи, но въпросът остава: колкото по-сериозна е вредата, която машината може да нанесе при автоматично прилагане на резултат от своя анализ, толкова по-важно е да има човек, който да вземе решение за неговото изпълнение. Можем да помолим машината да обясни „как“ е стигнала до определено решение, но отговорността за прилагането й винаги трябва да бъде проследима до човек. Винаги ли може да се създаде това условие? Не. Следователно трябва да сме готови да разглеждаме машинните грешки като човешки отговорности. Това не е голяма новина: не е ли това, което правим, когато фабрично устройство нарани работник например? Ние сме уплашени от факта, че не се страхуваме от волята на пресата, като същевременно приписваме това на машина, която вярваме, че има „интелигентност“: няма смисъл и сме го обяснявали досега, но ни идва естествено да мислим така, защото в нашия опит интелигентността и волята съвпадат. Хомо сапиенс, алтер его, природа… Маурицио Ферарис би искал да отговори тук! Ограничавам се да кажа, че глобалното осъзнаване, че нашият начин за създаване на прогрес, който ни е довел до това, че последните три или четири човешки поколения живеят в много по-добри условия от хилядите, които са ги предшествали, е несъвместимо с опазването на планетата и бъдещето на нашите потомци, е първото голямо събитие на този век. Трябва да се съсредоточим върху нашите научни и, по извод, технологични способности, за да променим този курс. Знаем, че разполагаме с инструментите да подобрим условията на живот на хората, без допълнително да жертваме тези на други видове и на самата Земя, и че някои все още незрели технологии скоро ще ни дадат допълнителни възможности. На тази основа, чрез ЦУР на ООН, сключихме страхотен пакт между над 190 държави и това никога не се е случвало досега.

До 2030 г. Китай ще бъде първият играч в областта на изкуствения интелект, изпреварвайки Европа и Съединените американски щати: какво ще бъде въздействието на тази трансформация върху геополитиката и световната икономика? Дали през тези проучвания ще мине „ловът“ за максимална екологична устойчивост и борбата с глобалното затопляне, идентифицирането на нови енергийни източници?
„Правилният въпрос, който започва от количествено отношение. Винаги свързваме тясно тези анализи с това кога различните държави (или „империи“, както ги нарича един венециански философ, който днес е много оспорван, но който прави правилен анализ по този въпрос) инвестират в изкуствения интелект. Сякаш бяхме във времето на канонерките, където който имаше най-големите, управляваше света. Не съм сигурен, че така работят нещата днес, а още по-малко, че тази гледна точка е валидна за години напред. Струва ми се, че уменията и способността да се използват добре не са просто количествен въпрос. Работя много в Сиена, център с 50.000 2012 жители, до който е трудно да се стигне дори с влак, но въпреки това там има културна, предприемаческа и научна тъкан, така че този малък средновековен град остава един от световните центрове за изследване на науките за живота. На колко други места по света имаше по-благоприятни условия? Много, но Сиена е там и работи, за да остане на върха. Може ли нещо подобно да бъде пресъздадено чрез поставяне на милиарди евро, долари или юани на масата? Може би да, но може би е по-добре да вземеш частица от тези пари и да дойдеш в Сиена, вместо да се надяваш да го пресъздадеш след няколко години. AI е разрушителен инструмент с големи възможности: това е причината да говорим за него толкова много. Същото беше и за електричеството, и за влака, и за интернет: някои страни са инвестирали повече от други, но не ми се струва, че днес, десетилетия или векове след появата на тези технологии, другите ги нямат. Разбирам от себе си, че това е прочит с известна степен на наивност, но ми се струва още по-наивно, като се има предвид, че ги нямаме, да се каже „трябва да инвестираме трилиони милиарди, както прави Китай“ или, по-лошо, да се каже, че тогава трябва да се оттеглим, да превърнем Италия във фабрика за почивка и да станем, както Марко Катанео, директор на „Le Scienze“ през XNUMX г., „страна на сервитьори“. Що се отнася до последните въпроси, моето мнение е, че именно поради това, което казахме дотук, Италия (а също и Швейцария по аналогични причини) има всички шансове да има значително място в световното бъдеще. Не като политическа сила, а като културно влияние. Колкото по-бързо устойчивостта се утвърди, толкова повече сила ще придобие в знанията и способността да създава нови начини за използването им, особено в науките за живота, които остават научно-икономическият сектор, който най-лесно може да ни помогне да постигнем ЦУР или Целите за устойчиво развитие на Организацията на обединените нации…".

Бъдещето вече е тук: винаги да бъде разбрано, никога да не бъде пропиляно...