Update README.md

README.md

@@ -10,104 +10,22 @@ tags:
 ---
 
 
-Проект семинара “Лаборатория Цифровой Философии”: Обучающий Философский  Чат Бот “Досократик”.
-текст доклада  для interfacing 2024 , Тайвань.
-Ярочкин Д.А 2024 
+ # Проект семинара “Лаборатория Цифровой Философии”: Обучающий Философский  Чат Бот “Досократик”.
+ # текст доклада  для interfacing 2024 , Тайвань.
+ # Ярочкин Д.А 2024 
 
 Мы считаем, что цифровой мир стал важной частью нашей реальности, поэтому философия должна им заинетресоваться. 
 Философия как дисциплина обладает рядом особенностей, которые делает ее метод уникальным и актуальным в сложившихся условиях. Во первых благодаря отсутствию предпосылок и аксиом философия не является ни гуманитарной ни естественной дисциплиной. Она совмещает оба этих условных разделения и благодаря этому может быть переходным мостом между одним и другим.
 Эта способность наделяет философию потенциалом гуманизации и более глубокого освоения цифрового мира. С этими мыслями мы организовали проект: «Лаборатория цифровой философии» в Санкт-Петербургском Государственном университете. Этот проект объединяет междисциплинарные исследования и призван ответить на три основных вопроса:вопросы, которые задают философам представители цифровых технологий; статус традиционных философских вопросов в свете технологий; разработка цифровых инструментов в изучении философии как метод познания.
 Проект активно изучает генеративные нейронные сети и их использование в педагогике вообще и в философии в частности. Опыт применения этих сетей на семинарах показал ряд интересных особенностей использования GenAI в философии о которых я бы хотел сегодня рассказать.
-
-
-
-
- «Лаборатория Цифровой Философии»: чат бот «досократик».
-
+ #  «Лаборатория Цифровой Философии»: чат бот «досократик».
 Данные тезисы представляют собой обобщение ряда панельных дискуссий, которые прошли в СПБГУ в рамках проекта кафедры антропологии СПБГУ  “Лабораторий Цифровой Философии” СПБГУ . Этот проект посвящен вопросам создания технологий и философии в современном мире.
 Некоторые семинары были посвящены опыту использования ИИ в написании научных работ. Среди аргументов за использование было избавление исследователя от рутины. Однако в таком случае дискуссионным остается вопрос, обязан ли автор указывать использование ИИ. Также прозвучал прагматический аргумент согласно которому прогресс не остановим и все прекрасно понимают, что студенты, исследователи в массе будут использовать ИИ. В таком случае самым разумным будет регламентировать а не запрещать это использование и в том числе выработать рекомендации по качественной работе с ИИ. Третий аргумент творческий. Возможно избавив исследователя от необходимости соответствует формальным требованиям языка мы получим некий новый жанр письма подобно тому, как фотография породила абстрактное искусство.
 Исходя из вышеизложенного наша группа предприняла попытку создания собственного чат бота, обученного философии. На данном этапе реализован прототип “Досакратик”. Педагогическая ценность такого бота заключается в том что он позволяет ученику общаться с представителями древнегреческой философии. ИИ позволяет вернуться к диалоговой форме философии, возможно преодолев недостатки письма высказанные Платоном.
-
-
-
-
-
-
 прозрачность как залог устойчивого развития.
 Опыт создание и обучения нейросети дает ученикам возможность практического понимания устройство нейросетей, что позволит в дальнейшем обеспечить прозрачность нейросетей для общества.
 Наиболее важной чертой для безопасного ИИ является его прозрачность. Прозрачность сама по себе является проблематичной. В зависимости от контекста она принимает разные черты и в некоторых аспектах, может быть, даже вредна. Поэтому в отношении ИИ критерии прозрачности должны быть определены отдельно и здраво взвешены обществом. Мы должны понять, где прозрачность является средством, а где терминальной ценностью.
- Необходимо различать прозрачность для разработчика, которая дает возможность понять работу всей системы,  пользователя для общего понимания и предсказания, для общества с целью общего понимания интеллектуальных систем, и конкретных действий, и более комфортного сосуществования с ними, для экспертов раду осуществления аудита, разработки стандартов безопасности, для того кто запускает систему (deployer) прозрачность позволяет добиться согласия с аудиторией и в некоторых случаях побудить ее к тем или иным действиям. Несмотря на то, что все эти сферы взаимоувязаны, мы сосредоточимся в первую очередь на прозрачности для экспертов и для самих разработчиках.  Такое ограничение связано не столько с ограничением формата статьи сколько со своеобразным эффектом наблюдателя в отношении данной проблемы.
- В виду уже указанного разрыва между разными участниками вся проблема разворачивается по-разному в зависимости от того, кого мы примем за отправную точку: разработчика, пользователя, общество, того, кто запустил систему. Однако прозрачность как раз и является способом установления контакта между этими сферами. Разработчики и эксперты могут быть наиболее подготовленными на сотрудничество. Выработка стандартов документации является тем методом преодоления разрыва, который предлагает данное выступление. Для этого необходимо выработать некоторую систему рекомендации инженерам, которая позволила бы сделать их труд прозрачным для общества и   для этического анализа. Инженеры как никто другой знают внутренние устройства ИИ. В данном случае мы говорим не только об интеллектуальном уровне понимания, но и о более глубоком и не дискурсивном уровне, который приходит с опытом успешного решения поставленных задач.
-Поэтому необходимо выработать методологию прозрачного ИИ.  Это может быть некоторая система логирования алгоритмов, некоторые особые правила технической документации.  Причем последнее, должно быть более осуществимым, потому что инженеры и так учат правильно технической документации.  По существу, данный подход является этическим дополненным к уже существующему тестово-ориентированным подходом к разработке.
- Нужно, чтобы разработчики сами делали систему прозрачной и понятной для общества. Для это необходимо сделать так, чтобы такого рода разработка была выгодной. Выгоды для разработчиков могут заключаться в имиджевых дивидендах фирмы.  Она занимает более ответственную позицию по отношению к обществу, как следствие общество больше доверяет. Таким образом фирма снимает проблему страха перед всем новым. Этот эффект доверия может быть поддержан государством как особого рода добровольный знак качества. Второй выгодой является безопасность самого разработчика. Будучи неотъемлемой частью общества, он испытывает эффект от индустрии на себе. 
- Такая прозрачность может достигаться двумя способами, которые могут друг друга дополнять. Источником истины может быть как разработчик, так и сам алгоритм. В первом случае мы сталкиваемся с тем, что мы назвали этически ориентированной разработкой (ETDD), во втором с объяснимым ИИ (XAI).
-XAI является одним из методов установления прозрачности для пользователя. Этот метод позволяет не только дать пользователю решение, но и объяснить ему, почему такое решение было принято. Такой подход требует не только технических знаний, но и знаний в области психологии антропологии. Данный подход развивается в первую очередь в отношении пользователя. Однако его можно применить и в отношении эксперта как более подготовленного пользователя.
-По аналогии с разработкой через тестирование  можно говорить разработке через этические тесты. В случае TDD разработчик пишет тест до написания кода. Таким образом он не пишет код, который невозможно протестировать. В той или иной мере принцип верифицируемости как обязательного условия написания кода можно перенести и на этичность кода. В долгой перспективе через создание этических тестов (ETDD) приводит к значительным выгодам для всего общества и созданию ответственного ИИ, подхода, который по словам Nikki Pope главы департамента этики ИИ корпорации Nvidea основан на принципах прозрачности и честности. В последнем случае ИИ комментирует и обосновывает свои действия. Требования понятности и честности совершения операций искусственного интеллекта эта важное требование при создании XAI
- Разумным видится совмещения обоих подходов в своеобразную гибридную этику. Такая гибридность возможна благодаря гибридной антропологии ИИ. Важно озаботиться этим явлением уже сейчас, пока основна�� часть индустрии только формируется.
-
-ИИ  меняет представление об агентности. Они смещают человека с позиции единственно возможного активного деятеля. Тем самым ставит под вопрос само понятие действия. Мы основываем действие на разуме и воле, однако созданный нами инструмент выходит за рамки инструмента и приобретает черты самостоятельности. Проблема, которую ставит перед нами данное явление, можно обозначить как вопрос, насколько оправдано мнение что ИИ действует произвольно, или в нем всего лишь опосредованно представлены воля человека или человечества. У человека есть здравый смысл, по умолчанию, а у ИИ его нет, что не позволяет ей действовать этично в условиях неопределенности Можно сказать, что машина действует лучше человека в ситуации, когда все идет по плану, но становиться непредсказуемой, когда возникает угроза аварии. Но именно в таком случае более всего важно правильное решение.
-Это накладывает дополнительную ответственность на разработчика. Поэтому в отношении автомобиля более очевидно, что люди разрабатывающие алгоритмы несут за него ответственность, поэтому автоматизация принятия этических решений является новой задачей для инженеров. 
-Поскольку безопасность, надежность, ответственность, конфиденциальность и кибербезопасность, все еще остаются проблематичными, необходимо сделать прозрачным механизм принятия решения алгоритма. Этот процесс можно сравнить с компилированием машинного кода в высокоуровневый язык программирования.  Такой подход можно осуществить по аналогии с тестовориетрованным подходом в программировании TDD этико-ориентированный подход будет учитывать все известные опасности алгоритмов и стремиться преодолеть их уже на стадии разработки. Однако остается вопросом, насколько прозрачным будет производитель относительно алгоритма столкновения. Отметим что прситанрстия могут быть связаны так же с той или иной философской доктриной, которая косвенно влияла на разработчиков ИИ. Один из наших семинаров напрямую был посвящен сравнению роли Платона и Аристотеля в формировании ответов ИИ.
- В таком случае правила документирования зададут стандарт документов, что позволит сделать внутренние принципы функционирования БПТС доступными общественному обсуждению. Такого рода диалог видится конструктивным и если в нем будут принимать участия все общество, включая разработчиков то результатом такого обсуждения станет жизнеспособная система регуляции БПТС.
-
-Можно сделать вывод о том, что для урегулирования проблем ИИ необходимо понять статус ИИ, его субъектность и, возможно, психологию. Сотрудничество человека и ИИ имеет гибридный характер поэтому существующие методы регулирования нуждаются в корректировке как техническими специалистами, так и представителями гуманитарных наук. Как комплексная проблем�� это требует комплексного решения. Основой для диалога и выработки объективного решения является прозрачность несмотря на то, что конкретное содержание понятия представляет серьезную теоретическую, практическую и практическую проблему.
-
-Метод.
- Мы натренировали   использовали модель от русского гиганта  ПАО «СБербанк» 
-Модель была предварительно обучена с длиной последовательности 1024 с использованием трансформаторов командой SberDevices на 80B токенах около 3 эпох. После этого модель была настроена с размером контекста 2048. Общее время обучения заняло около одной недели на 32 GPU.
-Необходимость использования отдельной русской модели обусловлено слабой представленностью русского языка в других языковых моделях Далее мы последовательно дообучивали эту модель на тексте Платона модель прошла 1 эпоху обучения, 7, 10,19
-На каждом из этапов мы просили модель сгенировать ответы к одним и тем же затравкам:  «Сознание – это»; «Знание – это» ; «Обучение – это»;  «Сущность философии – это..»; «Идея – это»; «подлинная мудрость – это»; «Душа – это» ;«Справедливость – это». Эти формулировки затравок  мы взяли у другой модели после того как изложили ей сущность эксперимента.
-
-
-Данные.
-
-Мы использовали для дообучения корпус текстов Платона по изданию. Платон. Полное собрание сочинений в одном томе ; Серия. Полное собрание в одном томе ; ISBN. 978-5-9922-0990-7 ; Год выпуска: 2013 ; Издательство: Альфа-книга. С помощью этого кода мы перевели его из формата pdf  в текстовый формат.
-import os
-import PyPDF2
-def pdf_to_text(pdf_path):
-    """Extract text from a single PDF file."""
-    text = ''
-    with open(pdf_path, 'rb') as pdf_file:
-        pdf_reader = PyPDF2.PdfReader(pdf_file)
-        for page_num in range(len(pdf_reader.pages)):
-            page = pdf_reader.pages[page_num]
-            text += page.extract_text() or ''  # Handle None if text extraction fails
-    return text
-def convert_all_pdfs_in_folder(folder_path, output_txt):
-    """Convert all PDF files in the specified folder to a single text file."""
-    all_text = ''
-    # Iterate through all files in the specified folder
-    for filename in os.listdir(folder_path):
-        if filename.endswith('.pdf'):
-            pdf_path = os.path.join(folder_path, filename)
-            print(f'Converting {pdf_path}...')
-            all_text += pdf_to_text(pdf_path) + '\n'  # Add a newline between different PDFs
-    # Write the combined text to the output file
-    with open(output_txt, 'w', encoding='utf-8') as txt_file:
-        txt_file.write(all_text)
-if __name__ == "__main__":
-    folder_path = 'pdf'  # Change this to your folder path
-    output_txt = 'corpus.txt'
-    convert_all_pdfs_in_folder(folder_path, output_txt)
-    print("All PDFs converted to corpus.txt successfully!")
-
- Вручную мы удалили из файла corpus.txt    все, что не является текстом Платона: содержание, примечания, выходные данные и тому подобное.
-
-Мы в данном тексте приведем лишь некоторые из текстовых генераций. Мы их ипользуем как пример выбор той или иной генерации произволен.
-
-
-Выводы.
-
-Моделирование  философского ИИ -  это шаг к сильному ИИ возможно один из многих так как философия – это  наиболее общая из научных дисциплин 
-это также возможность введения эскпериментального метода в философию,  что переводит ее из умозрительной дисциплины в практическую. Возможность выработки этики ИИ поскольку студенты представля��т как создается ИИ, что является условием не только устойчивого развития ИИ но и создание сильного ИИ как такового.  Поскольку этика присуща любому человеческому действию именно она является тем, что отличает человека от инструмента. Можно предположить, что только с внедрением этики можно будет говорить о сильном искусственном интеллекте.
-исследование в философских экспериментах с ии касаются не только философии они важны так как философия -  это наиболее общее человеческое – перспектива обогатить подходами разума мудростью и  очеловечить ИИ сделать шаг к общему ии. 
-Философские штудии, подобны схоластике,  и не только прекрасны сами по себе, но и создают пространство для свободного взаимодействия и глубокого изучения искусственного интеллекта, в отличие от прагматичного подхода к который стремиться к его использованию. Прагматика стремится создать удобный мир, но такое исследование ИИ не приводит к теоретическим прорывам в фундаментальной метафизике. Философия придаёт смысл. Она позволяет нам не просто создавать искусственный интеллект, а формировать мудрость, которая может изменить наше понимание мира.
-
-Обсуждения.
-Видится,  что хорошо натренированный философский ИИ должен быть хорош и в других сферах.  Помимо гуманитарных таких как юриспруденция, написание и оценка текстов , менеджмент, такой ИИ может генерировать неожиданные решения и в других сферах. Поскольку философия наиболее общая из наук такой подход может приблизить человечество к созданию общего интеллекта и прорывам в различных сферах.
-
-Ограничения. 
-Очевидным ограничением исследования является небольшой размер модели. Это имеет как плюсы, так и минусы. Среди плюсов скорость обучения, дешевизна экспериментов как финансовая и временная так и экологическая, простота использования, что делает ее целесообразной для работы в классе среди непрофессиональных программистов.  Однако такая модель не позволяет создать длинный сложный и связанный текст и раскрыть мудрость текстов, на которых она была обучена.
-
+ 
 
+http://digital-philosophy.ru/