ToolDocsProblem.ipynb

{
 "cells": [
  {
   "cell_type": "markdown",
   "metadata": {},
   "source": [
    "# LangChain и проблема документации\n",
    "\n",
    "Представим, что я являюсь разработчиком и хочу предоставить пользователю возможность интегрировать популярный инструмент в своего LLM-агента. Конечно, мне придётся взаимодействовь с *LangChain*, так как этот фреймворк объединяет наибольшее количество поставщиков API и не имеет аналогов. С какими трудностями я столкнусь?\n",
    "\n",
    "\n",
    "- **Страница документации LangChain о предложенных интеграциях:** [LangChain Integrations](https://python.langchain.com/docs/integrations/tools/)\n",
    "\n",
    "Сначала всё выглядит замечательно, и таблицы достаточно информативны для разработчика, чтобы понять условия использования инструмента\n",
    "\n",
    "<details>\n",
    "\n",
    "![tool1.png](image/tool1.png)\n",
    "\n",
    "</details>\n",
    "\n",
    "Когда дело доходит до отображения всех инструментов, всё начинает ломаться: нужно переходить на страницу каждого инструмента, затем на сайт платформы, предоставляющей API, и часто только после регистрации становится ясно, нужна ли подписка или доступен ли сервис в вашем регионе. И это только начало проблем. Представьте себе объём работы, который разработчику придётся проделать только в самом начале.\n",
    "\n",
    "![tool2_1.png](image/tool2_1.png)\n",
    "![tool2_2.png](image/tool2_2.png)\n",
    "\n",
    "В LangChain есть хороший пример шаблонного кода в [документации](https://python.langchain.com/docs/tutorials/agents): здесь я меняю поставщика API, и меняется только часть имени основной переменной, без необходимости дополнительной обработки в коде. Но, как и всегда, не обойтись без недостатков... По-прежнему нужно проверять доступность в разных регионах, отсутствие подписок и других ограничений.\n",
    "\n",
    "<details>\n",
    "\n",
    "![tool3_1.png](image/tool3_1.png)\n",
    "![tool3_2.png](image/tool3_2.png)\n",
    "\n",
    "</details>  \n",
    "  \n",
    "Более того, на главной странице утверждается, что разработка происходит из блоков. Однако на самом деле работа с LangChain характеризуется низким КПД, так как разработчику нужно отдельно исследовать **каждый** кирпичик.\n",
    "\n",
    "<details>\n",
    "\n",
    "* **link:** https://python.langchain.com/docs/introduction/\n",
    "\n",
    "![tool4.png](image/tool4.png)\n",
    "\n",
    "</details>\n",
    "\n",
    "Я не отрицаю, что синтаксис интеграции утилит одинаковый, но 60% случаев — это далеко не шаблонные решения из-за особенностей различных инструментов. Я заметил, что есть отдельный тип интеграции, где необходимо самостоятельно подмешивать полученные данные в агент (например, с инструментом поисковика DuckDuckGO). Это всё можно было бы удобно собрать в таблице: шаблоны, источники ключей, дополнительные строки, информация о подписке и регионах, где сервис не работает. Вместо этого приходится обращаться к сторонним ресурсам, где через какое-то время узнаёшь о работоспособности **только** с проприетарными моделями от OpenAI, а также о том, что на некоторых операционных системах требуется дополнительное программное обеспечение и многое другое."
   ]
  },
  {
   "cell_type": "markdown",
   "metadata": {},
   "source": [
    "## Отказ от сторонних источников\n",
    "* Вот минималистичный и понятный вариант документации инсутрмента на примере AskNews прошу сравнить его с оригинальной [документацией](https://python.langchain.com/docs/integrations/tools/asknews/) от LangChain.\n",
    "1. Работает на всех OS и требует дополнительного ПО - ✅\n",
    "2. Полностью бесплатен - ✅\n",
    "3. Работает во всех регионах - ✅\n",
    "4. Работает со всеми моделями - ✅"
   ]
  },
  {
   "cell_type": "markdown",
   "metadata": {},
   "source": [
    "### Инициализация обращения к модели"
   ]
  },
  {
   "attachments": {
    "02fcd8d1-8141-4e5d-ae5a-08c9f9ed872b.png": {
     "image/png": "iVBORw0KGgoAAAANSUhEUgAAA8oAAABjCAIAAADM9m7YAAAgAElEQVR4Ae2dC1QUV7rv9zqz1jnnTpZzZ8aJM5oYNYIPlOYlbxR5iiI+WhswhthBcQyKGA1JxCTEBIhoBCP2CVcTHyFcGIfOPZLxceY0ZoHDtBKJgbiMo0cOS2V51STNceBi+pLse3dVV3VV09WAdjeN+bNcUnTt2vXt337966tv7yYUPyAAAiAAAiAAAiAAAiAAAk4iQJyUD7IBARAAARAAARAAARAAARCgkNdoBCAAAiAAAiAAAiAAAiDgNAKQ105DiYxAAARAAARAAARAAARAAPIabQAEQAAEQAAEQAAEQAAEnEYA8tppKJERCIAACIAACIAACIAACEBeow2AAAiAAAiAAAiAAAiAgNMIQF47DSUyAgEQAAEQAAEQAAEQAAHIa7QBEAABEAABEAABEAABEHAaAchrp6FERiAAAiAAAiAAAiAAAiAAeY02AAIgAAIgAAIgAAIgAAJOIwB57TSUyAgEQAAEQAAEQAAEQAAEIK/RBkAABEAABEAABEAABEDAaQQgr52GEhmBAAiAAAiAAAiAAAiAAOQ12gAIgAAIgAAIgAAIgAAIOI0A5LXTUCIjEAABEAABEAABEAABEIC8RhsAARAAARAAARAAARAAAacRgLx2GkpkBAIgAAIgAAIgAAIgAAKQ12gDIAACIAACIAACIAACIOA0ApDXTkOJjEAABEAABEAABEAABEAA8hptAARAAARAAARAAARAAAScRgDy2mkokREIgAAIgAAIgAAIgAAIQF6jDYAACIAACIAACIAACICA0whAXjsNJTICARAAARAAARAAARAAAchrtAEQAAEQAAEQAAEQAAEQcBoByGunoURGIAACIAACIAACIAACIAB5jTYAAiAAAiAAAiAAAiAAAk4jAHntNJTICARAAARAAARAAARAAASGU16bv71kqC4vzM/NzC/RVRsuf2t2X31cOamrKNdVGU02tzSdr6oo11Wft/3cJpnT/+y7eqKiXFdRafz2obK+faowMzv3wIWHymQQF3PWup+SomV3jFXluoryE1cUU4z0E9LOckBvvO36vuKutjTYmjHfMtYeKt26OXdjQengCXhaKQZbWpt0/Lh0yHCjT3bC1FLDmn0HpdR8ua5cV6Fv65UlYCcu6nUV5bUXuijtaqku11XUtPCjG58nG3bYyHOs6fzlOzatSp7emvGwdbevG94vqOn/79TXzLb2T2reL/j0i7tWO4fz6OZn2+eXZb371QPZ8MPfqlkxP2r8xuZyU+On7xfUVDd+Z/O5a/80d1q7XlX9VZO8Ebr23s7MnW/PdrtJZ+MhriMIk5qkZznTAnlenSeKcjOzD7bIP2V/KeoBpS7ZP4uH/kQ2PvCjhPC/QOmh7+E4A2U+jq9zfNaN2m/Y5PWNU4VeU+O8ps5Sp2vV6VoyNXby5OCdn91xTMZJZ3sad2qJKnnW1MQqNjNJfjr1KV7R6jz9Dclnbjg0N5aQgEXhvpPWVV8dyu16jLrczEPnxUtu6PPIJN+yZvEDFx0Yy9K17qekWJiOyvCpKYEqX/XOBhuBoHjJiDpx41ThPzwR5z0tRJ2uTUxJJdOj5iSur7rc49JCuKstDaoQN+ryyZMJ06eHqtO1CQs1xCdqdkL2sesDX+tRpRjYXKUUnfqUGSlhAWTjUdmAxUpHJvL93XS8gBCy9VSXPI8eww7tqH9aWttJKe2szdM+4ZXOHVPK5RkaHaFO18YlLyejQ56aEZy2udxoHYPl6cV8h6+7NX6sIdkqspqoijSSf+81MtvOvlqkUe3T3xTtHNaDmyc3kRXkVTvSaWCz7huLyWpCVpP5n7bLU988sk9DXog+4r5C9rR9mEumzJs+nQ0+c5OW/dY/NPaZdwzWRiI30KP/Yu2ZRC+PCniysFE+eF6sIDOWREVHiJMa17PIwDNpb0PZg/uzmD3q9FJjP2jKekChS/bLwQkfdOpnEp9RPlHjfKJIkDp63vKowJnjfKLGTfYRKTnhLtIsbGEq8pFeNMRjt2q/YZLXFyvIU4sjfDSHL1omA9PFyiSfRcG/DT98bYi4HiB5b0N+Qlrkuhe04YG2crZTnxqc5KrWo2gqV+Vh2cvXJqtzKm0GVMWL2InWA5la9V5r97yhz/v51ICBBwWHmQ7ipLnb1GW65ylStr06l4T/Pm3d0sSENxv7ee8GURzPTnKtcuaTi8JmpB5u47yLfeZ2fT4JWxIduc2lhXVXWxoYvrmlnExYNCs613CLa3J95vaj+SR8YWLa3raBHGmeU4qBy+kgRac+NUITu2xJtNfCKslDhax0ppOrpyeqX6+TvXnrNWyLXip8yKYrv+BVory2jnV95u4OY1VRNpkePSv+DaNFe8jTC+YNY3dj8nqNkmY13/vOdLfLUwYlJq+fVTJVQGn/t9lwWENyUkgJUe2p5hzzYjpOXucucpu87v6shPguCQjPMXRyYM13zuxZRUKihjhPifYP7wFrzyRlxbzZEeodBmlDafswa1TMswtTQqxTf2/XvXt/75Ymsmv7xYpfEu8HnXCV5KMDPWC/S9o17WE/7ONmeVOXydTVWb12rG/wa3+hJu5PV039tjCV+DxEydyr/YZFXrPWMz181tbjskdg5n0JjxMckFYBZ+5sbWxqaLli++aS9na0NTU0NjW08T2fZ27uMZm6unspNd+53NLQ2NbRv4eYPyshY/3LLtw6vlqlzpbL2WGR172G/KjF5L1L//dPWWR8svwBQ+RgNl0539jU2t4j9PjeLlOH/gVVnHdho6XIlPLT7c4vKO1lxW/r6DKL+kNOpuW68PjeZ77NcrZlZb7XZTKxm5m/vdTCnbVmRUWrhIZu7mlvY3Vhp5qEJC77ffVwtpasPn73wm4y9unCz4RysftZBwjLuMC3DcvnIkpq7mGDiKWpKIO6wZWxsa1DgsJlxbJkzDqLt21nYS5JW1elQj2ybBye6u5g/auxqfUG92Ri7jQauIdemXTjjekzDweBrhMFWt8If3nN3jn2OiMgndjMd7iGKu0jjnuEo0KJLZzrdxc6hF4ndIem824NZuvUp4Ytj1u9IikhKeH5Q+1Cp5bXEQM1c/r6Y5IAM9OpAjJlpjDSyudmO2Ndj3FP1oSgmYLTQZ7e0iAddDdLCtf9Gry8vt9luvtd931K79/8ynDub2LEyP1v/tZ47ozh3BdffyNU6ffdd78z3RMfy39gMv3e90Ih5Gfvd7ef4y+XTUeisjffvfKFofXmfUpt5TWXz907pvt8xr03uXzONF4RPhFuSHvqn385khy5TetTSQYp/w/xBKXUzfL6alWONjgsVNcmsaHv6gfapYSQAxe5D5VHS7vTCruGn7hbLpnMlPZyA68IX3IfFxyy9kxitr/+piY++k2DeNO+1vfSngl8YcP6+JmK8loc+niz+aLf67p17KX/Ni2I1538pGCdN5luuSQ865qFYbahrUOcdxTkoyM9YLdLugCVPEv5OCOce6BphV0swpTMpGY7MK18uLG9tb2/R28QItAqdSh1s/YbDnnd11C08Jmw8E0nhKZnqS7TyXVhC9Ury7n3aSz8gKw9XKvLnhK6wDc8ebyff1q+Xgw9vHGqMCosOSJmIQsseeypzN2G2/yU01xKSNCasj3r4pMICfmZ35wo25fIbBJKXFRi7KO3/phDJvhbhgneCDtTjtCYXPabTYETntr1OXtdu+jpyIwPWyW3YhzGZe0sy88iZDr57ZzI0PgtdewFMff2KpGka9UhhBCyUc/e/rIPQ5btqHh33qw5hISO8Q2Zu2K3xRfFyMxYfeTY7vRkMT3tMe5YoSajvRlG4h9uZcWNRI/vrKrLnzIpOjhm8c98w61ZUXlwyHV9ZsIiQiarwucR4iWtJklBXHZ4sWLshKCsP96mfcZdi9LUBSclzYorBfk1Yf8CJ4cmTJs0igPF2S95K2fcK9FqdkFdP5mXpiZkIgdKFe2216NKncVmWlKsR6pcxZReP5m3Uk3I4+sKCrZkZQXMTc3IyhLbhu2QOnwEiu0NF5YnIssc2WPUZZPxoRExC8no4MBZlj4yQI+gHAH71Wodfwj5nTDpci/KfxMSk6Sem6QmP/fdUn2p22XtWpYxG5fmT3vxz0Z9Ppk0RRwibOqITR7TVPxQwF3OHkJ8p2cLI618brY71l2rjApdoN5cw0XHydPzBjnqbjKTXfGHQ3ktDQ7hZGhOyf5/e5msJKoiPnqk+1zterKekIIk9i+bZHz6t3uU0u9OkQwSeVSIkm55j2RZozLufraNrLY4oa/928vkpVlkIyFbI8l6Eltzll3OftitScmhIzVZJJHwASoyef19+76SIPKc937uMe1mw3bySjjZGq4q0hAN56L+wZIRpZTdMZ1saaH0pp6sI5G1gmEsiXvl9fWaJcEp6swKqbpmTgupM8LuaKk8HHU3l8fOWTxmzDh1utYndtPusg2/Jr+RtFgrBxccsfY8ac5mQ9OHkRNGWx/X2yp+7Z1QfOzYpujZQk/np1fh6b1TMvj/Q1hE3MoqtsiHm1ympLOYmYmEEC8x/opw8yYhUyyBH30dx/KzyGgvLrpG84SPV8bOBm6SYjn0Dw5xqAfsdUkXkLLJ0macYWeVq9jxtMLO2hlylWFGv1emyyZkAhkdHhA4K1NnFIdchyKwn9RhRrtb+w2HvO7UqyMW9W9VlBNtYREruWbKprfZ0SRhRwP3jHv10O8XBwUJIVMdlapfxEZnf9zOHBDcm+LHydZTnC+8ufSx2cvDZq+tau4wmTr+UvI8iQiWSa5v6zInx1gCKjr1KRNnZ+yXyFm7U45NW3Pyn2wKTExhcp/vsYlp+ySvvBmHiIjZBdXGdlNXe1NpXMjyiInPs/myt+v+f1Y+Gxg/Te69Hjd32ZTkbYYrnaZblz7JX+odOMkyGTeXPha9Yt4MsnGP3tDUYLzWRemdEwXasb5zC+uZ/990sXKxX2K85YU7a+4/m0sCtEfauVcBZ3ZmPBYwVXBrcfKUj1Dva/2XtNSpM1aw0IXenvb6EkKIkMzJpOxm17Y/a+xESzipca928uRsqfeO8yV03bvXQ++fyV+QonryuRPMt8fZL5fXUwJDLK5QO6CYF+dp77QqbnY0d9Sop0bJGpVdy5zyoWJnkebuoB4dnGJjzdMBy4S3JcwjPs1vxeErFq+efEj1aAJsQvKem7L939mKT1Prvoy4mWOm84/NN/R5ij2COigUayH+88nsVcW19Q2NxqsmSllA5Njwpe82sKVdfV1ndz//T4/NlD2cS+vEucfWcanz2Cvap58OEEsnCwbrbciPXypKBPptHQsXsT5wyudma54SW/sa3ln0jDA4y9NzqRx3N0lGLjlk8jrXx39vqXSB4yeWcLp+8vpVQl6Ifbf+jOHMVzcpZQHNGhJ4+Ny9Hyj9wWQ4kk6WkWLmgjVVV2hUJR98yZn8Za2W5FokMqXm4wc1v3urtPEHSi9+QNIIKXz/yy5Kv79d+z+WkBVkzWf8szwnr18jpOitI2fOGD5vvyt4r19qofSHm4dK55EE8moLLwy+KHhHQ8r+cI1zkN87U6wq0gj5WIwZy9+RE9NjC/eds4pv98rr5lISkWxtTnar1M5oqTzm9LXu0aSHBs0pa2LOf/O1mkQvdVJ8hDvltV9w9p/M//lhZITYL9r2Z5GpRV/cO7kmJFEsrHT0a9FpR/ms4Qd/ajIUrtTy15rvdV3/ny+IUROc95qTifHBvrGrDxxvaKxvvUEpG53IP2+t416y93V8vDE90GceN+qyxEJfE+E61gN2uqR4pesOpDS4uyhXMSdhlacVxSFXCaZP9PiMMsPlW123r9TlJi6OmOltGXIdi0BbqcNZ7XbtNzzyWuNIXmeI8jou/i3rG5xrlVGqWF4Wt32Y9VufdEEWUNrXULIw3dJbmkvJtAjrAqBewxvxarHPsNHreAGZFCW87WJNOSFVZ5Wzdqcc1zVbSum3dZkTo0WJz8x7yl8wTxCCFmcSe2Y07NBO93/OGj3pKzwqcEbe0OeNmuq/UwzGvl6zQoBGm0sfm5UgxN5wqTv1KT4J4ihDKW3bnzVxhncZe33AunFAiNoKudfweqxIUiKvm0vJ1KjMKnFFJrergP68+IjpUni0r3VvapoQWkppW8XMSb7Cq3DJnfs6juZoJj3lW9bMh44MJK9tQF2sGDdZWkZq3KP1mrxOcApKbuT0w069vLPwlrPVwOwfH3avUI8sRkjhFFfF7C1/TEKR2MXaq3Ifn/IEd4oVQzakehCB/oi5KScw11odbRVBftFqHVvy66hHOCoU4xybtF0S3c6eRubEWXHR6zUrfWaLjuT+ZjnzE+m49O3JVK/EyJR3WnrpndpsmbymLJRoqk8Kv2KbvcuaNtXqpeM6tf3Ya6ut0q7Rby4fZHez5ubkIyavX9WQdbKljcLywX7yeoNfuXUhi+mT/Rqy9a3jYuzY9WrygsU3fLd+mxCG8VVxiYa8Ekly57L45h/OvvTWQtXhM/cp5R3nnBznCvVNXdQWlWpfHbfIkJfXrxvEzAV5vfUO/eyj5WSVqK0FV3f+S5/cFKJTpJC+qfPdOF50pTPDVpBiq/96WOV1p34jP+xw/1s08aCnFTYcdRwO90uQxj237c+aEBTuXnm96pNueq0ibNxT3FudPuOulFTyxjn6f46lS5ZdSUc/417tuCD1m6dv9I8JlCbjqpGfN5fJtkzo7br39x7Ltb1d12s2jvPhtx9giW3l9QB6oF+XlDYelx3bFvOBpxVHQ658xmFlYYWdl/Iu53lkf984mvfzaf68F8yxCLSVOhwZ92u/4ZDXppNrQlJsWxWLyGGOk7iE7dx8z43yVlnJzu5ISeeEMpvnRs1bFpsYn5mdm5mdq1m1OihUWPPL1F6YpLty+Vh3AmEV9mR01tbyXdx2VOXFmzKiwydbIzil05jLGqs0YzYFRi3LeFPH21Ne8lJSqL9ktaKN/dS4V+vlK1mc1E9ey6bbTn2qmMCWDKXNpUQ1V6oPmDE+wRw925ZNaUfVZnEssFpl2/GkZXPDcXMpCV+2YJOlNsvKC56NniN9muJNaK/KJf9I1lmfATj7lb3X8ibE3A+/in1mQUII394ys3NnRM3z+uUiy0OOS4vJdZYFi3YJQ8ydy9x6gy//8PrM4AhLO1Gox4W13bT1beUqpmw7jumxyW8ebevovNxUsYD4z9VYFwtKa9aTCPTHzdWm9BV2p16cKaWlYFdKeoTDQllbuHA/toyYLIxdkrqSbwbTYpL9/KRdVUjoit/ycYn5wyaHzSu90Hv6hXHypczMxe4Txr0+Yo6iaNliX/ncLM/TYnWnXhO2UIgHkKen3IgxiO7mCgB8nkMKDhFiQvhLOd38Bhn3VtL8sqz5ZVlk0ziSSVQfn2Wnb+rJ7wn54/f0Pz4i6aTYeCp5KfE+Q+kXZWQ5edFotkRlvJTziXVHPE7NW8JOpMreUnoWHPJiUtRrhKwhJId3k1tOsSCTHC+ylqje0S7Z/361GKDLi/INM+M+2Me75zd/lEM2CEZyhrKdQ9y2tPFihW9YshApxGKm2SKcpgZD+dpZoaGivLYZLZWmFTYcfVVok1gy41jguPKXpT3XdFF6sWLMEz6Z/05py04y5un8M5T+11HrSl8b5wKLflwy+gnf2AUrMzYX6I63ilsT2g4vnCK01TbmzjN7c1IWLrZskqZakRTNvyll9tgkHkgP9OuSruQl5m1bTIUZh28SDqYVh0OufXkt5SMxY0gikC8HQ+dm7Tcc8poyt1lwmMQzyhf/WmVUmLh1Rr8ps9fwRtxSztXKvcUOX7u74Ry3JIt1+OYvzzXyy49sRaR8muyojAlJTYxlewyJ/wLiwq0+XbtTjtjKnH/ApkD/uCjRGHW69vGE1HmJBYLbTG4/dba8DoyTSHnWvn8xI3RLXSf/4Og3Sxofz2pNmHetVrHhQOovdz4iBzkyX92o+AVSeiQmPT7E4r3jr+xuLiXj58ZuOCoG7g8YHGIzB7CQ1uD5qfvqxfZmvHD+r2cv8GsBHdjnjFMMe2hEhOSFBsuVxTyECHXXXErs1aPm07/TL9+ye4qrYkrNnY3vPk8CkvyCg73ClmVV/Lld4n6TjGXcipBhJdB/uGjZzx6tdzZ29a9N2qlfMStJ/Yr+ts00KZfXDqvV2sKFSmQV4T/79Zq2v1qawV//cv7C2cYrsvXZQmJn/7Ydl7i1rT5LsrdujgsPtHoHmJPCuGtR+tjF1e0dlYtmxltHNmaRfG62zZOlYA6eEMtLQtv0nGt8wO7m7JLL8nsIed1eXqYhG16tuHrBwNYmnjGcM7Ze+tJwhY/u4LzCb39+40wyFyXCwkVI2ZVLJwh5eRvn8ObdxkskW3ZwkvodxT0BmbzekkSeJS/W6zXPksd3HfraGuNB2QrL+upX928iL04lS0hBK+/Jbi/foyF5Mt88eSnkn7dtE/zi7vVe9xryY1MjZ22QhtuxN6p7tdNChIgO2wmXewZTGo5a35a9W+a6p+DQkVW0a/6Qtn/2tPzk1rqTu+LmxHL7Td3+o6K8ZiGody631FXtKdiYlTV++pMZuvN8hUkHSc5mdgupImRBynuzyFNJhfWWBfGSS/onHlAPSIvgGkj2cpXYzJ1WmHEGnFYcDrlDktdDEoGczcOh/YZFXjOOJHRBwkaJ4unrOLoxNTB0rOB4ZtNbRNgSMTjB3Fzqo7K8imU7Q80IKKgXtQC3Jzy/1bltb5dNk9yF0yVvSynl4i+tPh57U4699uakzzoq42YmSl+WsW9HqM4lPj7Cxpwy+/mhzWnea9PJVVOTJFss9RiKtD6+fFgn68azovysrDr1aj8xkkRi1cWK0d7W4BZKr9bm52buMbgjOIRtsqO22ftF4r3j6qjHsCV08eyUYmGvMb7imP3zF1nfOhn3aKWx1zbymnZUzvZOVBdZC3Wj8WBR8X7L13M4qS0oZcPaQ2hK7Hp+pQFfKGPhYnVwpOC9dlCPDk7RLsPbWjKnqO7yF9f/i1L6o812S7IhdVgJsOEiIF69w8qfXtcvDVoU4bWGm/iZJ2NGkPWFbHd9IfGP4F/LyEohl9cOq1XSwi0Vw57lJgcuP3BZqKje1qNlJbo/i2FRwueu+N1/XOoxbAlXT0peKXjCrHdlsaThmvWbNsRETBOGEf6sfG7ulyfbHXXG4shJlrB1W3k9mO5mtcIlRw8hr7nd7rLIu2L19Xx18PC7BQ2W8JGvP11PcuaQVyyuYiaOswPZnwfr+b0+WEz287wnmyva5Q/I74lq/yluTxIF7/UqknqcBY+w1YrLLce0o7645v0jF4XIkP9dF7ORqGq+YJm2V7M8hTvyBJlhz4n3da+85h6oSGCgeje33oA36LpeHbQ0JkZZXjsYc27p03zmWWP5KJtxVBFCVnz+Lvxf1v7ZZnyRKTOiBeeavDtIxo0Ow/5y3b9aHoAoZYsfhA0YBlaEls1zJW9KWTyMXzD3SMzskWnxgfWArAguRCXPWkKDO+Ggih1PKw7nEdu79HsVIE0wFBHIbB4W7Tc88pr2dRzdoCa+4QvXvKrTGwz68s1rMn7lOzra6mJk09tMrc94klPbcr6l/mCK74KAMRGWkKYew4uByeMmLzvQdKn9yvna3dmEEMuTkyN5zfxPc2VvS/txl/cxeRtz/l8saGGGqKSF/DsqY3xEzW07zcuCQ27pl0xZGJxRdqKpgfeiSdsfy07yKpy9s5OFzbBI7ha2Jtcrc7e+sanhmC6X/GKC+hX+K3VYNyZJSyKeXnKg/nxLi35rzLzAqUSYraVWseGGjJrFFl/eumTQ5XIbxrnDpccehWfw78EFdGzXp4b8eEFz93X8YYOGzE5YdfDs5+caLU5H5m5kKzNIQLD2vWNtHR1tx8ufS147O1LwAtoDxW2E573lUMPljkst/1o6jowXQElu7aJDvrMERcelbCisKNftKdDEL5oanpOzWYxMcFCPjk61fZSnmjPf6zcBZPRUMjpg4qxYdUbegTbLUysTtSHJsfl6bgc6zl1KhpXAxBlpm0uqjjccqy5JCUqJ9CdiXBPbGPsfE6fFF9Q2NTQeL/efkjj9l+pjbCudfvOftEdwKxmI/UJJW7hQr9cqJ5GYyXO21rZ1tLcZdBvUbGfAFvEhX0jmit/2xqVuYykJTE+0vGiW3LWtYkpUWkzyvOTF/IJp8ZR8bmab/S2NWr55J/vWxpItWVlEleg/YQq/MRF3jSz9wN1NvI/LDh5CXlMW+KEmZPXzRy62X7tY//auOSRSdBtz0jYnguQIQra9muREkE3i4kVKb9axr3pJJe+eOWM4U03WErJUvFxBXlv3veZkcXYkc37fNz6X50dWBJdfaL/7XfvZj9eQZZa7fH0si6wSDBAZtrN7CZrbzfKa+V63xyUR35mJq/JZO9mR/99V8apFmzevClIMDnE0rXAD74Qn1unqWlrOsxlnwoqUhOGR1/RihXdketJclWVSk3cxyUzKuZ9JhGV3geaKlX7h4oKl23X5JGBBWumfGpsaLrNF86zLyBQzv9QvNKWwvsNk6rx8vISMUgt9liVWzYkvrOP2KKR0EHpA1iXFNuLqAwkN/lYPPK04mkcGhCkzYwgikHlRh0X7DZO8Zm9bOhsr8tNWaif5Rv7ON1q9MmtjRYNlcz1Wg2x6m5h7yniqcGniEjImWJ2RWyb9Tsfrhp2bs3xD4wnxUmfkFuqFHbKaS9XpWsEFLiwN5GOv2yoy0rXyt6VcW+FXbPBfx8AfW2O1Xdlu+1p1mVr1yhIhDkS8F99FCzjPnO00b9yrVafnCVG/PcaK3DTJKrcb+jx1utb6spgvDr8AzpYMd7u+O8aKvMT5y8hov8i4lMwivfBVgMyGp8P2GdoObszQEhIcl5K21boNmdyqnku1RdmhMQsJ8YpOTpUkE0vkigO2LFWdnitbRMLdh0OUxaIp5GtxLDEkPI2e1gN5WR21IagAAAl2SURBVIFz5pNfTlCvKzdeqMwUudkH1WHYk5eYpCbEK2Suet0OEZQritYvT6GzPOkTNStynnpdYe3lHlZMviwsJECpHpVP9bTq1mpmLC8ytLVyIZWG2j15JCpBiP9hM2vZOq1/cKjlLn0eQYCM93tKNVfW5Tlat43lGzO0v/AKnx4cz/PhITrqEYybUqHkLVyokO62yq3rtN6q2WR8kFqbr5N8w6GQxDW/7Y9LPca92bL+zt+cH1jSteKCacEmfmARRg9570jLyt2yR2/kv7jHcoE0/SC6m3Ab1/1u/Jh9WaOwltHmPlKNy2SoPPaaJb73VfWa3RqyeRILaC7ZVPz5bUkWLHpEVVQsrH3k/9wmCbam9y7r1+/WkJdmsK1F3pFeLr21JcubJzfJTL1enVqkUe2vu/kDvd9R92LZM+RlP5JFSEHKkpqzd9lmJiw6XPVOsRAHIprGl2VbNfuCdP54kyRGRUzmsgNTa+2O3KTk1HE+UaFz53Pf69lRmydMsvZHS+XhSBh4vWeGpOVXfvW/tqgC+NU+LrPfmrG0PQtfyibOv/IuJhs3zFeP7chNTFpKyK+nhSTKvtm0x6jLyeJnFvsOaW73z4J12vHe/pN8ZmUWnWxvYhKFn6O7m8szV2rH8Pv3D0oP2BTBWjaXHslo8HdSmnEGnFYUh1w24ziGaWvGYEUg2/NgWLTf8MlroTmwrdP67xYu3VmZfXuQuBO7cBn/m+3+q3BKnhB/OSLAfT+T/Pt3+G7Mf18r+4qN/oumbTPkvl9g4GS2lw3r3712256ySXZAKSd2/hnuu04ctHcH5vU7xZzTE6QRVtSyetWy8bzFenOPvOr75eP8UjrKUfy2F/uJ2GDigI/9i9jXHHSLXyqklEbyOdv3186QJUmBQw8mcL/7ob7c8SEvt4Lp7WZffCMJyLae8sAjvo+IX8UyGAsddKteSz9lo5BlMf1gchzWNA9AQGKv+R73bXeST4RDc/fIHUz6VfEgp5WhDrkCK3u/PVgEDr+8tgdM7nVWSIGPXUlAKq9deR/kPVwELh4kj88hYxILD7F90BubOO81IVv07EuL8AMCIAACribA1Bh5WvK22dU3RP4uJoBpRQLYY+X11RMV5Tp+taLEXBy6i0BXS3W5ruKkdd9Yd90Y93EfAdPVRv1B3Z6Cjdm5mfklukP6RvZlQ/gBARAAAXcQMLXU6CrKq1ow7LiDtpvugWlFAO2x8lowEL9BAARAAARAAARAAARAYOQQgLweOXUFS0EABEAABEAABEAABDyeAOS1x1cRDAQBEAABEAABEAABEBg5BCCvR05dwVIQAAEQAAEQAAEQAAGPJwB57fFVBANBAARAAARAAARAAARGDgHI65FTV7AUBEAABEAABEAABEDA4wlAXnt8FcFAEAABEAABEAABEACBkUMA8nrk1BUsBQEQAAEQAAEQAAEQ8HgCkNceX0UwEARAAARAAARAAARAYOQQgLweOXUFS0EABEAABEAABEAABDyeAOS1x1cRDAQBEAABEAABEAABEBg5BCCvR05dwVIQAAEQAAEQAAEQAAGPJwB57fFVBANBAARAAARAAARAAARGDgHI65FTV7AUBEAABEAABEAABEDA4wlAXnt8FcFAEAABEAABEAABEACBkUMA8nrk1BUsBQEQAAEQAAEQAAEQ8HgCkNceX0UwEARAAARAAARAAARAYOQQgLweOXUFS0EABEAABEAABEAABDyeAOS1x1cRDAQBEAABEAABEAABEBg5BCCvR05dwVIQAAEQAAEQAAEQAAGPJwB57fFVBANBAARAAARAAARAAARGDgHI65FTV7AUBEAABEAABEAABEDA4wlAXnt8FcFAEAABEAABEAABEACBkUMA8nrk1BUsBQEQAAEQAAEQAAEQ8HgCkNceX0UwEARAAAQeOQKqIg3+uZPAI9eCUCAQ8GgCkNceXT0wDgRAAAQeSQLuVJa4l6pI80i2IhQKBDyWAOS1x1YNDAMBEACBR5aAqkjzqzcX4J97CEBeP7IdCQXzVAJOkNd9+AEBEAABEACBoRDw1DnxkbVrKJWDtCAAAg9LAPL6YQniehAAARAAARAAARAAARAQCbhPXlNKxbsqHfzI/Tyy3gMUDARAAARAAARAAARAYHAEeFmoJBo97XOp0HWTvP7/t3zttdekN+4PhVJ6+vRpnU5XjB8QAAEQAAEQAAEQAIGfNgGdTnf69GnH6rG/nhyWT2yErjvkNaV0+/btxcXFDgBRSo8cOZKTk1NYWLgLPyAAAiAAAiAAAiAAAj9tAoWFhTk5OUeOHHEgIIdFTPe/KaW0uLh4+/btvKkul9e8tt61a5cDef3jjz+ePn06Jyfnp92KUHoQAAEQAAEQAAEQAAEZgZycnNOnT//444/9Ra3nfMLL6127dvEK27XyWtTWA8prnU4Hv7WsNeEPEAABEAABEAABEPjJEygsLNTpdCNFXvMK24Xymg9DEVuFA+81pbSoqEhMiQMQAAEQAAEQAAEQAAEQ4AkUFRV5eHyI6L3mDXahvO7r64P3Gh0DBEAABEAABEAABEDggQnAe20nBkZU2A6814i9fuA2hwtBAARAAARAAARA4BEmgNhrO/Ja9GE7kNd8Guwc8gj3DRQNBEAABEAABEAABIZEADuH2BfW4qd8HLbjuBnse/3T3t0SpQcBEAABEAABEAABKwHsey0KacUDx9qav+xH7mdwX+WDVCAAAiAAAiAAAiAAAo8sAV4WKipLDzshFbquXdroYQWHOSAAAiAAAiAAAiAAAiDgWgKQ167li9xBAARAAARAAARAAAR+UgScIK8f2XcSKBgIgAAIgAAIgAAIgAAIDJEA5PUQgSE5CIAACIAACIAACIAACCgTgLxWZoMzIAACIAACIAACIAACIDBEApDXQwSG5CAAAiAAAiAAAiAAAiCgTADyWpkNzoAACIAACIAACIAACIDAEAlAXg8RGJKDAAiAAAiAAAiAAAiAgDIByGtlNjgDAiAAAiAAAiAAAiAAAkMkAHk9RGBIDgIgAAIgAAIgAAIgAALKBCCvldngDAiAAAiAAAiAAAiAAAgMkQDk9RCBITkIgAAIgAAIgAAIgAAIKBOAvFZmgzMgAAIgAAIgAAIgAAIgMEQCkNdDBIbkIAACIAACIAACIAACIKBMAPJamQ3OgAAIgAAIgAAIgAAIgMAQCUBeDxEYkoMACIAACIAACIAACICAMoH/B8/2c3th41WEAAAAAElFTkSuQmCC"
    }
   },
   "cell_type": "markdown",
   "metadata": {},
   "source": [
    "конечно же с поправкой на... <details> ![image.png](attachment:02fcd8d1-8141-4e5d-ae5a-08c9f9ed872b.png) </details> "
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 1,
   "metadata": {},
   "outputs": [],
   "source": [
    "import os\n",
    "os.environ[\"FIREWORKS_API_KEY\"] = \"XXXXXXX\"\n",
    "\n",
    "from langchain_fireworks import ChatFireworks\n",
    "\n",
    "llm = ChatFireworks(\n",
    "    model=\"accounts/fireworks/models/llama-v3-70b-instruct\",\n",
    "    temperature=0,\n",
    "    max_tokens=None,\n",
    "    timeout=None,\n",
    "    max_retries=2,\n",
    ")"
   ]
  },
  {
   "cell_type": "markdown",
   "metadata": {},
   "source": [
    "### Install"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "metadata": {
    "vscode": {
     "languageId": "powershell"
    }
   },
   "outputs": [],
   "source": [
    "!pip install -U langchain-community asknews\n",
    "!pip install -U langchain-openai langchainhub"
   ]
  },
  {
   "cell_type": "markdown",
   "metadata": {},
   "source": [
    "### Input API\n",
    "##### Необходимо задать учетные данные API AskNews, которые можно получить в консоли AskNews. (https://my.asknews.app/)"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 4,
   "metadata": {},
   "outputs": [],
   "source": [
    "import os\n",
    "os.environ[\"ASKNEWS_CLIENT_ID\"] = \"XXXXXXX\"\n",
    "os.environ[\"ASKNEWS_CLIENT_SECRET\"] = \"XXXXXXX\""
   ]
  },
  {
   "cell_type": "markdown",
   "metadata": {},
   "source": [
    "### Run"
   ]
  },
  {
   "cell_type": "markdown",
   "metadata": {},
   "source": [
    "#### Вариант с использованием заготовленных системных промтов через LangSmith/hub (https://smith.langchain.com/hub/hwchase17/openai-functions-agent)"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "metadata": {},
   "outputs": [],
   "source": [
    "from langchain import hub\n",
    "from langchain.agents import AgentExecutor, create_openai_functions_agent\n",
    "from langchain_community.tools.asknews import AskNewsSearch\n",
    "\n",
    "prompt = hub.pull(\"hwchase17/openai-functions-agent\")\n",
    "\n",
    "asknews_tool = AskNewsSearch()\n",
    "tools = [asknews_tool]\n",
    "\n",
    "agent = create_openai_functions_agent(llm, tools, prompt)\n",
    "agent_executor = AgentExecutor(agent=agent, tools=tools)\n",
    "agent_executor.invoke({\"input\": \"tell us about the news in the field of llm\"})"
   ]
  },
  {
   "cell_type": "markdown",
   "metadata": {},
   "source": [
    "#### Вариант с использованием собственного системного промта"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "metadata": {
    "scrolled": true
   },
   "outputs": [],
   "source": [
    "from langchain.agents import AgentExecutor, create_openai_functions_agent\n",
    "from langchain_community.tools.asknews import AskNewsSearch\n",
    "from langchain_core.prompts import ChatPromptTemplate\n",
    "\n",
    "prompt = ChatPromptTemplate.from_messages([\n",
    "  (\"system\", \"your role is a fan of the langchain framework\"),\n",
    "  (\"placeholder\", \"{chat_history}\"),\n",
    "  (\"human\", \"{input}\"),\n",
    "  (\"placeholder\", \"{agent_scratchpad}\"),\n",
    "])\n",
    "\n",
    "asknews_tool = AskNewsSearch()\n",
    "tools = [asknews_tool]\n",
    "\n",
    "agent = create_openai_functions_agent(llm, tools, prompt)\n",
    "agent_executor = AgentExecutor(agent=agent, tools=tools)\n",
    "agent_executor.invoke({\"input\": \"tell us about the news in the field of llm\"})"
   ]
  },
  {
   "cell_type": "markdown",
   "metadata": {},
   "source": [
    "### Additionally\n",
    "#### Использование инструмента напрямую"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "metadata": {},
   "outputs": [],
   "source": [
    "from langchain_community.tools.asknews import AskNewsSearch\n",
    "\n",
    "tool = AskNewsSearch(max_results=2)\n",
    "tool.invoke({\"query\": \"the fight against entropy\"})"
   ]
  },
  {
   "cell_type": "markdown",
   "metadata": {},
   "source": [
    "# Бесшовная организация информации\n",
    "* Теперь разработчику не нужно искать дополнительную информацию на сторонних источниках – остается просто запросить API-ключ у поставщика инструмента. Однако по-прежнему требуется обработать 98 таких страниц. Как можно еще лучше организовать информацию?"
   ]
  },
  {
   "cell_type": "markdown",
   "metadata": {},
   "source": [
    "| Tool    | Cross-platform | Free | for all models | for all regions |\r\n",
    "|:-------:|:--------------:|:----:|:--------------:|:---------------:|\r\n",
    "| AskNews | ✅              | ✅    | ✅              | ✅              |\r\n",
    "|\r\n",
    "|   |   |\r\n"
   ]
  },
  {
   "cell_type": "markdown",
   "metadata": {},
   "source": [
    "| Install                                                                                      | Input API                                                                                                   | Launch with LangSmith/hub                                                                                                                                                                                                                                                                                                                                                                                                                                                                                         | Launch with your prompt                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                    | API provider            |\r\n",
    "|----------------------------------------------------------------------------------------------|-------------------------------------------------------------------------------------------------------------|-------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|-------------------------|\r\n",
    "| !pip install -U langchain-community asknews<br>!pip install -U langchain-openai langchainhub | import os<br>os.environ[\"ASKNEWS_CLIENT_ID\"] = \"XXXXXXX\"<br>os.environ[\"ASKNEWS_CLIENT_SECRET\"] = \"XXXXXXX\" | from langchain import hub<br>from langchain.agents import AgentExecutor, create_openai_functions_agent<br>from langchain_community.tools.asknews import AskNewsSearch<br><br>prompt = hub.pull(\"hwchase17/openai-functions-agent\")<br><br>asknews_tool = AskNewsSearch()<br>tools = [asknews_tool]<br><br>agent = create_openai_functions_agent(llm, tools, prompt)<br>agent_executor = AgentExecutor(agent=agent, tools=tools)<br>agent_executor.invoke({\"input\": \"tell us about the news in the field of llm\"}) | from langchain.agents import AgentExecutor, create_openai_functions_agent<br>from langchain_community.tools.asknews import AskNewsSearch<br>from langchain_core.prompts import ChatPromptTemplate<br><br>prompt = ChatPromptTemplate.from_messages([<br>  (\"system\", \"your role is a fan of the langchain framework\"),<br>  (\"placeholder\", \"{chat_history}\"),<br>  (\"human\", \"{input}\"),<br>  (\"placeholder\", \"{agent_scratchpad}\"),<br>])<br><br>asknews_tool = AskNewsSearch()<br>tools = [asknews_tool]<br><br>agent = create_openai_functions_agent(llm, tools, prompt)<br>agent_executor = AgentExecutor(agent=agent, tools=tools)<br>agent_executor.invoke({\"input\": \"tell us about the news in the field of llm\"}) | https://my.asknews.app/ |\r\n",
    "|\r\n",
    "|\r\n",
    "|\r\n"
   ]
  },
  {
   "cell_type": "markdown",
   "metadata": {},
   "source": [
    "Конечно, оформление должно быть немного другим (перенос строк, подсветка синтаксиса и т.д.), но это максимум, который позволяет Markdown.\n",
    "Предлагаю расположить таблицы так, чтобы разработчик мог задать фильтры в первой таблице (как выпадающее окно в Excel) и сразу увидеть инструменты, соответствующие его параметрам, во второй.\n",
    "\n",
    "![Excel-Column-Filter-Example.png](image/Excel-Column-Filter-Example.png)"
   ]
  }
 ],
 "metadata": {
  "kernelspec": {
   "display_name": "Python 3 (ipykernel)",
   "language": "python",
   "name": "python3"
  },
  "language_info": {
   "codemirror_mode": {
    "name": "ipython",
    "version": 3
   },
   "file_extension": ".py",
   "mimetype": "text/x-python",
   "name": "python",
   "nbconvert_exporter": "python",
   "pygments_lexer": "ipython3",
   "version": "3.11.9"
  }
 },
 "nbformat": 4,
 "nbformat_minor": 4
}