index
int64 4
23.2k
| вопрос
stringlengths 56
27.9k
| ответ
stringlengths 25
27.3k
|
|---|---|---|
21,572 | Хранить python dict в .env файле
Мне надо хранить dict (словарь с ключами и значениями) в переменные окружения Linux через файл .env, проект на python 3.6 все работает через docker docker-compose, все скрытые переменные проекта высвечиваются нормально, кроме словаря которого я прописал в .env файл LINES={'key': value1, 'key2': value2}, вместо этого я вижу LINES=38. Вопрос почему вместо значения ключа, стоит число 39?
|
<code>
.env</code> файл является <code>
shell</code> скриптом, который должен содержать команды понятные интерпретатору <code>
Shell</code>. Если попытаться выполнить команду <code>
LINES={'key': value1, 'key2': value2}</code> в UNIX shell, то получим ошибку:
<code>
sh-4.1$ LINES={'key': value1, 'key2': value2}
sh: value1,: command not found
</code>
как вам уже написали в комментариях, LINES - встроенная переменная окружения, показывающая максимальное число строк в терминальном окне:
<code>
sh-4.1$ echo $LINES
40
</code>
хранить словарь можно в виде JSON строки. Пример:
задаем переменную окружения в виде JSON строки:
<code>
sh-4.1$ export DATA='{"key": 11, "key2": 12}'
</code>
содержимое Python скрипта:
<code>
import os
import json
data = json.loads(os.environ["DATA"])
print(data["key"], data["key2"])
</code>
проверка:
<code>
sh-4.1$ python a.py
11 12
</code>
|
21,574 | Как использовать django модели в стороннем python приложении?
У меня задача рассылать уведомления пользователям. Решил это делать с помощью скрипта на python, чтобы это реализовать, мне нужно обращаться к бд моего сервера. Хотелось бы этого использовать существующий файл моделий django.
к примеру main/models.py:
<code>
class User(AbstractUser):
username = models.CharField(
_('username'),
max_length=150,
unique=True,
)
first_name = models.CharField(_('first name'), max_length=30)
email = models.EmailField(
_('email'),
unique=True,
error_messages={
'unique': _("Пользователь с такой почтой уже зарегистрирован.")
},
blank=True
)
class Notification(models.Model):
message = models.CharField(max_length=200)
date = models.DateTimeField(auto_now=True)
viewed = models.BooleanField(default=False)
user = models.ForeignKey(User, related_name='notifications', on_delete=models.CASCADE)
</code>
И хочу в стороннем скрипте делать подобные операции:
<code>
User.objects.filter(...)
Notification.objects.create(user=..., message=...)
</code>
Как правильно подключать настройки django и models.py в моем скрипте, чтобы это реализовать?
Мне это по большей части нужно для email рассылки напоминалки
|
Чтобы использовать модели проекта, нужно установить его окружение указанным ниже способом.
<code>
import os
import django
os.environ.setdefault("PYTHONPATH", "path/to/you/project")
os.environ.setdefault("DJANGO_SETTINGS_MODULE", "you_project.settings")
django.setup()
</code>
В дальнейшем, просто импортируете модель из своего проекта, и работаете с ней как обычно.
|
21,575 | Перечисление атрибутов модуля
Я импортировал модуль ccxt, в нем есть множество атрибутов.
Обычно я работаю с каждым по отдельности, например:
<code>
finance = ccxt.finance({params...})
exchange = ccxt.exchange({params...})
asset= ccxt.asset({params...})
</code>
Далее, я использую по очереди мои функции finance, exchange, asset и так далее.
Теперь мне нужно записать ccxt единожды, а все нужные атрибуты я вывел отдельно, и хочу использовать цикл, чтобы подставить их после ccxt.
<code>
my_atributes = ['finance','exchange', 'asset']
for i in my_atributes:
ccxt.i({params...})
</code>
Такая запись не работает, потому что нельзя использовать строки в качестве атрибута для ccxt. Если записать элемента списка без кавычек, то они станут функциями, и код выдаст ошибку.
|
<code>
names = ['finance', 'exchange', 'asset']
for name in names:
getattr(ccxt, name)({params...})
</code>
либо
<code>
funcs = [ccxt.finance, ccxt.exchange, ccxt.asset]
for f in funcs:
f({params...})
</code>
|
21,577 | как записать объекты в файл html?
Есть небольшая задачка. вот код:
<code>
class Tag:
def __init__(self, tag, is_single=False):
self.tag = tag
self.text = ""
self.attributes = {}
def __enter__(self):
return self
def __exit__(self, *args, **kwargs):
attrs = []
for attribute, value in self.attributes.items():
attrs.append('%s="%s"' % (attribute, value))
attrs = " ".join(attrs)
if self.is_single:
print("<{tag} {attrs}/>".format(tag=self.tag, attrs=attrs))
else:
print(
"<{tag} {attrs}>{text}</{tag}>".format(
tag=self.tag, attrs=attrs, text=self.text
)
)
def __str__(self):
attrs = []
for attribute, value in self.attributes.items():
attrs.append('%s="%s"' % (attribute, value))
attrs = " ".join(attrs)
return "<{tag} {attrs}>{text}</{tag}>".format(tag=self.tag, attrs=attrs, text=self.text)
class HTML(Tag, TopLevelTag):
class TopLevelTag:
def __init__(self, tag, toplevel=False, is_single=False):
self.tag = tag
self.text = ""
self.attributes = {}
self.toplevel = toplevel
self.is_single = is_single
self.children = []
def __enter__(self):
return self
def __exit__(self, type, value, traceback):
if self.toplevel:
print("<%s>" % self.tag)
for child in self.children:
print(child)
print("</%s>" % self.tag)
def __str__(self):
attrs = []
for attribute, value in self.attributes.items():
attrs.append('%s="%s"' % (attribute, value))
attrs = " ".join(attrs)
if self.children:
opening = "<{tag} {attrs}>".format(tag=self.tag, attrs=attrs)
internal = "%s" % self.text
for child in self.children:
internal += str(child)
ending = "</%s>" % self.tag
return opening + internal + ending
else:
if self.is_single:
return "<{tag} {attrs}/>".format(tag=self.tag, attrs=attrs)
else:
return "<{tag} {attrs}>{text}</{tag}>".format(tag=self.tag, attrs=attrs, text=self.text)
if __name__ == "__main__":
with HTML(output="index.html") as doc:
with TopLevelTag("head") as head:
with Tag("title") as title:
title.text = "hello"
head += title
doc += head
with TopLevelTag("body") as body:
with Tag("h1", klass=("main-text",)) as h1:
h1.text = "Test"
body += h1
with Tag("div", klass=("container", "container-fluid"), id="lead") as div:
with Tag("p") as paragraph:
paragraph.text = "another test"
div += paragraph
with Tag("img", is_single=True, src="/icon.png") as img:
div += img
body += div
doc += body
</code>
должно получиться что-то вроде:
<code>
<html>
<head>
<title>hello</title>
</head>
<body>
<h1 class="main-text">Test</h1>
<div class="container container-fluid" id="lead">
<p>another test</p>
<img src="/icon.png" data-image="responsive"/>
</div>
</body>
</html>
</code>
часть я уже написал, но ещё не известно правильно или нет, т.к. немогу оформить сохранение файла в html в классе HTML...
ПАМАГИТЕ...
|
У функции <code>
print</code> есть параметр "file", который позволяет делать вывод не в консоль, а в файл. Пример:
<code>
with open('file.txt', 'wt') as file:
print('Hello!', file=file)
</code>
В вашем случае нужно добавить чтобы файл передавался при создании объекта и передавался в print-ы (нужно добавить <code>
file=self.file</code> во все print-ы):
<code>
import sys
...
class Tag:
def __init__(self, tag, is_single=False, file=sys.stdout):
self.file = file
...
def __exit__(self, *args, **kwargs):
...
print("<{tag} {attrs}/>".format(tag=self.tag, attrs=attrs), file=self.file)
</code>
Работать будет примерно так:
<code>
with open('file.html', 'wt') as file:
with Tag('html', file=file):
pass
</code>
|
21,578 | Как сделать нумерацию списка пользователей
Подскажите пожалуйста, как сделать нумерацию списка?
Вот код:
<code>
for first, last, nickname, user_id in Cursor.fetchall():
num0 = 1
num1 = int(num0) + 1
mess += str(num1) + '' + f"@id{user_id}({first}\t{last}) - \t{nickname}" + '\n'
vk.messages.send(
chat_id=chat_id,
message=mess,
)
</code>
Вывод:
<code>
2 Пользователь
2 Пользователь
2 Пользователь
</code>
Что не так?
|
Может так?
<code>
for num, (first, last, nickname, user_id) in enumerate(Cursor.fetchall()):
mess += f"{num}@id{user_id}({first}\t{last}) - \t{nickname}" + '\n'
</code>
<code>
enumerate</code> - означает "пронумеровать". Работает это так:
<code>
for n, (x, y) in enumerate([[1, 2], [3, 4], [5, 6]]):
print(n, ':', x, y)
</code>
Результат:
<code>
0 : 1 2
1 : 3 4
2 : 5 6
</code>
|
21,579 | Регулярные выражения в python
Господа, помогите плз.
Есть три ссылки
<code>
a = "realty.ru/offers/kvartiry
avito.ru/uhta
avito.ru/mowsow"
li2 = re.findall("\w+\.\w+/\w+", a)
print(li2)
</code>
При таком коде он ищет тока последние две сылки. Не получается сделать чтобы можно скока угодно групп он искал, пример слеш слово, слеш слово, слеш слово и так до бесконечности
|
<code>
li2 = re.findall("\w+\.\w+(?:/\w+)+", a)
</code>
|
21,581 | Как замаскировать значения в строке датарфейма?
Пусть дан датафрейм:
<code>
1) 2 3 3 2
2) 4 5 5 5
3) 0 9 8 1
</code>
Как получить такое:
<code>
1) 1 2 2 1
2) 1 2 2 2
3) 1 2 3 4
</code>
То есть, мы смотрим порядок и уникальность значения в строке и заменяем по этому принципу эти значения, как бы маскируя их. Обработка у нас построчная и независимая.
|
Примените pd.factorize() к транспонированому DataFrame:
<code>
In [30]: df
Out[30]:
a b c d
0 2 3 3 2
1 4 5 5 5
2 0 9 8 1
In [31]: df.T.apply(lambda x: pd.factorize(x)[0]+1).T
Out[31]:
a b c d
0 1 2 2 1
1 1 2 2 2
2 1 2 3 4
</code>
|
21,582 | Как вывести emoji смайлики в python?
Какой модуль можно использовать для вывода emoji в python?
|
Выводимый текст надо помещать в кавычки:
<code>
print("😎")
</code>
Или так
<code>
x = "😎"
print(x)
</code>
|
21,583 | Ошибка TypeError: 'int' object is not subscriptable
Начинаю изучать питон, столкнулся с такой проблемой как TypeError: 'int' object is not subscriptable. Прошу помощи, т.к. перерыл все похожие вопросы и ничего не понял.
Задача, которую я решаю:
Имеется набор данных, состоящий из пар положительных целых чисел. Необходимо выбрать из каждой пары ровно одно число так, чтобы сумма всех выбранных чисел не делилась на 4 и при этом была максимально возможной. Если получить требуемую сумму невозможно, в качестве ответа нужно выдать 0.
<code>
n = int(input())
a = [0] * 4
b = [0] * 4
r = c = 0
for i in range(n):
s = input().split()
s[0] = int(s[0])
s[1] = int(s[1])
for j in range(len(a)):
a[j] = 0
for k in range(2):
for p in range(len(a)):
r = (b[p] + s[k]) % 4
if a[r] < (b[p] + s[k]):
a = b[p] + s[k]
b = a
print(max(a[1], a[2], a[3]))
</code>
|
Нужно быть внимательнее с именами переменных и что они означают. Давать переменным имена из одной буквы - очень плохо (допустимо разве что в качестве итератора в цикле, да и то лучше и там так не делать), сам потом забудешь где что.
В строчке <code>
a = b[p] + s[k]</code> переменная <code>
а</code> из списка превращается в число и на второй итерации в стрчоке <code>
if a[r] < (b[p] + s[k]):</code> возникает ошибка, потому что <code>
a[r]</code> становится недопустимой операцией.
Точно такая же ошибка возникнет на второй итерации внешнего цикла в строчке r = <code>
(b[p] + s[k]) % 4</code> потому что строка <code>
b = a</code> делает из списка <code>
b</code> число.
|
21,584 | Проблема с 'int' object is not subscriptable
Задача - вывести средний балл для каждого класса. Но python выдаёт:
<code>
File "main.py", line 28, in <module>
print(middle_class("9a"))
File "main.py", line 21, in middle_class
for grade in grades[x['scores']]:
TypeError: 'int' object is not subscriptable
</code>
<code>
grades = [
{"school_class" : "9a" , "scores" : [5, 3, 4, 5, 5]},
{"school_class" : "9b" , "scores" : [4, 4, 5, 2, 2]},
{"school_class" : "9c" , "scores" : [3, 2, 5, 3, 5]},
{"school_class" : "9d" , "scores" : [2, 3, 4, 5, 5]}
]
def middle_class(class_number):
if class_number == "9a":
x = 0
elif class_number == "9b":
x = 1
elif class_number == "9c":
x = 2
elif class_number == "9d":
x = 3
grade2 = 0
for grade in grades[x['scores']]:
grade1 = grade
grade2 += grade1
middle_class = grade2/5
return middle_class
print(middle_class("9a"))
</code>
|
Вот так должно работать:
<code>
grades = [
{"school_class" : "9a" , "scores" : [5, 3, 4, 5, 5]},
{"school_class" : "9b" , "scores" : [4, 4, 5, 2, 2]},
{"school_class" : "9c" , "scores" : [3, 2, 5, 3, 5]},
{"school_class" : "9d" , "scores" : [2, 3, 4, 5, 5]}
]
def middle_class(class_number):
if class_number == "9a":
x = 0
elif class_number == "9b":
x = 1
elif class_number == "9c":
x = 2
elif class_number == "9d":
x = 3
grade2 = 0
for grade in grades[x]['scores']: # Поменял место скобки
grade1 = grade
grade2 += grade1
middle_class = grade2/5
return middle_class
print(middle_class("9a"))
</code>
Ошибка была в том, что Вы перепутали место квадратной скобки. Скорее всего, это просто опечатка, но у Вас получалось, что Вы пытались обратиться к числу, как к словарю, вместо того, чтобы сделать это число одним из ключей словаря.
|
21,585 | Как запустить функцию в определенное время в дни недели?
Нужно запускать функцию, например, каждый понедельник, в определенный час и минуту. Пробовал через <code>
shedule</code>, но он запросто не хочет работать, да и проблемы с днями недели возникли... Вот мой код:
<code>
# Импорт модулей
from vk_api import VkApi
from vk_api.bot_longpoll import VkBotLongPoll, VkBotEventType
from vk_api.utils import get_random_id
import schedule
import time
# Вывод сообщений
def send_message(peer_id, message):
vk.messages.send(
peer_id=peer_id,
message=message,
random_id=get_random_id(),
)
# Функция вызова
def prizyv():
members = vk.messages.getConversationMembers(
peer_id=2000000013,
)['items']
members_ids = [member['member_id'] for member in members if member['member_id'] > 0]
message = 'Призыв!'
for member_id in members_ids:
message += f'[id{member_id}|#]'
send_message(2000000013, message)
# Функция вызова по утрам
def prizyv_morning():
members = vk.messages.getConversationMembers(
peer_id=2000000013,
)['items']
members_ids = [member['member_id'] for member in members if member['member_id'] > 0]
message = 'Доброе утро! Хочу напомнить вам что сегодня вебинар. Всем хорошего дня'
for member_id in members_ids:
message += f'[id{member_id}|#]'
send_message(2000000013, message)
# Функция вызова за час
def prizyv_hour():
members = vk.messages.getConversationMembers(
peer_id=2000000013,
)['items']
members_ids = [member['member_id'] for member in members if member['member_id'] > 0]
message = 'Всем привет! Хочу напомнить что через час у вас вебинар. За 10 минут до начала вебинара я скину вам ссылку.'
for member_id in members_ids:
message += f'[id{member_id}|#]'
send_message(2000000013, message)
# Функция вызова за 10 минут
def prizyv_10minute():
members = vk.messages.getConversationMembers(
peer_id=2000000013,
)['items']
members_ids = [member['member_id'] for member in members if member['member_id'] > 0]
message = 'Итак, ровно через 10 минут начинается вебинар! Вот вам ссылка: *Тут ссылка*. Всем удачи!!!!!'
for member_id in members_ids:
message += f'[id{member_id}|#]'
send_message(2000000013, message)
accessToken = 'removed for security reasons'
groupId = 123456789 # removed for security reasons
vkBotSession = VkApi(token=accessToken)
longPoll = VkBotLongPoll(vkBotSession, groupId)
vk = vkBotSession.get_api()
for event in longPoll.listen():
if event.type == VkBotEventType.MESSAGE_NEW:
from_id = event.obj['from_id']
peer_id = event.obj['peer_id']
message = event.obj['text'].lower()
if ('крут' in message) and message != 'полностью согласен! реально круто 😎':
send_message(peer_id, 'О да, это точно круто! B-)')
elif message == 'призыв!' and from_id == 504785497:
prizyv()
schedule.every().day.at("01:50").do(prizyv_10minute) # это не работает, возможно я не так делаю
</code>
PS Бот будет стоять на <code>
pythonanywhere</code>
|
Цикл <code>
longPoll.listen()</code> является бесконечным. Последняя строка никогда не выполнится.
Но просто запустить задачи до цикла тоже не получится, потому что через определённое время их нужно проверять, а <code>
longPoll.listen()</code> может спать довольно долго.
Я предлагаю Вам запустить цикл проверки задач (вместе с их объявлениями) в отдельном потоке, используя модуль <code>
threading</code>.
Для этого создайте функцию, в которой будет находиться бесконечный цикл проверки задач и их объявления (опционально). Примерно так:
<code>
def scheduler():
schedule.every(5).seconds.do(send_message, 2000000013, 'Test message')
while True:
schedule.run_pending()
sleep(1) # Выберите оптимальное значение под свои задачи планировщика
</code>
И запустите её в отдельном потоке (естественно, до бесконечного цикла), чтобы она не зависела от <code>
longPoll.listen()</code> (который может очень долго спать) и не мешала его же быстродействию:
<code>
t = Thread(target=scheduler)
t.start()
</code>
Данный небольшой пример каждые 5 секунд будет вызывать функцию <code>
send_message(2000000013, 'Test message')</code>.
Пример:
<code>
from vk_api import VkApi
from vk_api.bot_longpoll import VkBotLongPoll
from vk_api.utils import get_random_id
import schedule
from threading import Thread
from time import sleep
def send_message(peer_id, message):
vk.messages.send(
peer_id=peer_id,
message=message,
random_id=get_random_id(),
)
def scheduler():
schedule.every(5).seconds.do(send_message, 2000000013, 'Test message')
while True:
schedule.run_pending()
sleep(1) # Выберите оптимальное значение под свои задачи планировщика
accessToken = 'removed for security reasons'
groupId = 'removed for security reasons'
vkBotSession = VkApi(token=accessToken)
longPoll = VkBotLongPoll(vkBotSession, groupId)
vk = vkBotSession.get_api()
# Создаём и запускаем планировщик в отдельном потоке
t = Thread(target=scheduler)
t.start()
# Бесконечный цикл
for event in longPoll.listen():
pass
</code>
|
21,586 | Python | Как работает данная функция?
<code>
result = 0
def sum_of_digits(number):
return sum(int(d) for d in str(number))
print(sum_of_digits(15))
</code>
Данная программа суммирует все цифры числа. Но я не могу понять, что делает данная строка кода:
<code>
return sum(int(d) for d in str(number))
</code>
Объясните, пожалуйста.
|
Разложите <code>
sum(int(d) for d in str(number))</code> по частям:
<code>
sum(... for ... in ...)</code> -- выражение внутри скобок создаст генератор, который вернет значения из цикла. Можно создать и список, для этого используются квадратные скобки: <code>
sum([... for ... in ...])</code>, но это не эффективно в данном случае.
<code>
str(number)</code> -- вернет строку из числа. Передали число <code>
123</code>, получили строку <code>
"123"</code>. Приводим к строке, т.к. это самый простой способ получить из числа его цифры
<code>
for d in ...</code> -- будет перебирать символы из строки, т.е. сначала <code>
"1"</code>, потом <code>
"2"</code>, и т.д.
<code>
int(d)</code> -- сконвертирует строку в число (в десятичной системе), это нужно из-за того, что <code>
sum</code> не умеет работать со строками.
<code>
sum(...)</code> -- принимает и суммирует, то, что можно итерировать (списки, кортежи, генераторы, и т.п.)
Если, <code>
number = 123</code>, то <code>
sum(int(d) for d in str(number))</code>, образно, станет <code>
sum((1, 2, 3))</code>, что равно <code>
6</code>
PS.
Выражение <code>
sum(int(d) for d in str(number))</code> можно представить в функциональном виде: <code>
sum(map(int, str(number)))</code>
|
21,587 | ошибка "string indicies must be integers" при попытке итерации списка словарей по результату input
Суть задачи: у меня есть пополняемый список словарей (коллекция фильмов), в котором нужно реализовать функцию поиска, взяв от пользователя данные (использую input).
Проблема: при попытке итерации по списку словарей с использованием данных, принятых от пользователя, Python 3.7 говорит, что "TypeError: string indicies must be integers".
Вопросы: 1) почему выдаётся ошибка? 2) Как принять данные (название фильма) от пользователя и найти соответствие ему в списке словарей?
Подозреваю, что интерпретатору не нравится либо то, что результатом input является строка, и такой тип данных он не может использовать для итерации, либо то, что мои словари находятся в списке, и я неправильно осуществляю итерацию именно по списку словарей.
Вот код (он ещё в процессе создания и наверняка вообще неоптимизированный, "непитонный" и с кучей других ошибок, но прошу сильно не ругать, - я "пытаюсь программировать" всего три недели).
За помощь и конструктивную критику большое спасибо!
<code>
# Movie Library v.1.0
movie_library = []
# Menu
ask_add_find = input("Do you want to find or add a movie, or view your collection? (add/find/view) ")
def search_library(search_title):
for m in movie_library:
if m['title'] == search_title:
return m
while ask_add_find:
if ask_add_find == "add":
add_title = input("Movie title: ")
add_year = input("Release year: ")
add_dir = input("Director: ")
add_genre = input("Genre: ")
movie_library = dict(title=add_title, year=add_year, director=add_dir, genre=add_genre)
print("Thanks. Your movie library has been updated.")
print(movie_library)
ask_add_find = input("Do you want to find or add a movie, or view your collection? (add/find/view) ")
elif ask_add_find == "find":
search_title = input("Search movie by name (e.g., 'Matrix'): ")
search_library(movie_library)
elif ask_add_find == "view":
print(movie_library)
ask_add_find = input("Do you want to find or add a movie, or view your collection? (add/find/view) ")
break
else:
print("Incorrect input. Please choose again.")
ask_add_find = input("Do you want to find or add a movie, or view your collection? (add/find/view) ")
</code>
|
На самом деле проблема в том, что в кейсе <code>
ask_and_find</code> вы переопределяете <code>
movie_library</code> (которая была листом) в словарь. Вот и получается, что в функцию вы передаете измененную глобальную <code>
movie_library</code>, которая теперь является словарем, а не листом.
Чтобы все было совсем хорошо, нужно заменить строчку
<code>
movie_library = dict(title=add_title, year=add_year, director=add_dir, genre=add_genre)
</code>
На
<code>
movie_library.append(dict(title=add_title, year=add_year, director=add_dir, genre=add_genre))
</code>
Без этого получается, что вы итерируетесь по элементам словаря, а потом берете элемент по индексу <code>
'title'</code>.
Ну и было бы в целом хорошо, если бы кейсы <code>
find</code> и <code>
view</code> при вызове сообщали, если в коллекции еще ничего нет.
P.S Чтобы не попадать в такие ситуации, можно использовать какой-нибудь линтер и "подсказки типов"
|
21,589 | Ошибка vk_api __call__() takes 1 positional argument but 3 were given
<code>
# Импорт модулей
import vk_api
import random
from vk_api.longpoll import VkLongPoll, VkEventType
from vk_api import VkApi
from vk_api.utils import get_random_id
# Залетаем и регаемся как бот
token = "deleted_by_security_reasons"
vk = vk_api.VkApi(token=token)
longpoll = VkLongPoll(vk)
# А это для призыва
vkBotSession = VkApi(token=token)
vk = vkBotSession.get_api()
# Упрощаем процесс вывода сообщений
def write_msg(user_id, message):
vk.method('messages.send', {'user_id': user_id, 'message': message, 'random_id': random.randint(0, 200000)})
# Сам процесс
for event in longpoll.listen():
if event.type == VkEventType.MESSAGE_NEW:
if event.to_me:
request = event.text
if request == "привет":
write_msg(event.user_id, "Привет! Как жизнь?")
elif "как дела" in request:
write_msg(event.user_id, "Все круто! У тебя как?")
elif "крут" in request:
write_msg(event.user_id, "О да, это точно круто! 😎")
elif "всем" in request and "хорошего" in request and "дня" in request:
write_msg(event.user_id, "И тебе хорошего дня! 👍🏻")
if "разбуди всех" in request:
prizyv()
# Сама функция призыва
def prizyv():
members = vk.messages.getConversationMembers(
peer_id=2000000013,
)['items']
members_ids = [member['member_id'] for member in members if member['member_id'] > 0]
message = 'Призыв!'
for member_id in members_ids:
message += f'[id{member_id}|#]'
vk.messages.send(
peer_id=2000000013,
message=message,
random_id=get_random_id()
)
</code>
Выводит:
<code>
Traceback (most recent call last):
File "Jason.py", line 40, in <module>
write_msg(event.user_id, "О да, это точно круто! 😎")
File "Jason.py", line 24, in write_msg
vk.method('messages.send', {'user_id': user_id, 'message': message, 'random_id': random.randint(0, 200000)})
TypeError: __call__() takes 1 positional argument but 3 were given
</code>
В чем может быть проблема? И как исправить эту проблему?
Также он не отвечает на сообщения в беседах, только в личку. Листал форумы но ответа решающего моего проблему не нашел.
новый код:
<code>
# Импорт модулей
from vk_api import VkApi
from vk_api.bot_longpoll import VkBotLongPoll, VkBotEventType
from vk_api.utils import get_random_id
# функция ответа
def send_message(peer_id, message):
vk.messages.send(
peer_id=peer_id,
message=message,
random_id=get_random_id(),
)
# функция призыва
def prizyv():
members = vk.messages.getConversationMembers(
peer_id=2000000013,
)['items']
members_ids = [member['member_id'] for member in members if member['member_id'] > 0]
message = 'Призыв!'
for member_id in members_ids:
message += f'[id{member_id}|#]'
vk.messages.send(
peer_id=2000000013,
message=message,
random_id=get_random_id()
)
# Залетаем и регаемся как бот
token = "mytoken"
groupId = '183464879'
vkBotSession = VkApi(token=token)
longPoll = VkBotLongPoll(vkBotSession, groupId)
vk = vkBotSession.get_api()
# Ответ на сообщения
for event in longPoll.listen():
if event.type == VkBotEventType.MESSAGE_NEW:
from_id = event.obj['from_id']
peer_id = event.obj['peer_id']
message = event.obj['text']
if 'привет' in message:
send_message(peer_id, 'Привет! Как жизнь?')
elif 'как дела' in message:
send_message(peer_id, 'Круто! У тебя как?')
elif 'крут' in message:
send_message(peer_id, 'О да, это точно круто! B-)')
elif 'Призыв!' == message and peer_id == 504785497:
prizyv()
</code>
|
Это из-за <code>
VkLongPoll</code>.
В документации указано, что это модуль для пользователей.
Так как Вы авторизуетесь с ключом сообщества, Вам требуется <code>
VkBotLongPoll</code>.
Обратите внимание, что он в другом модуле, а именно в <code>
vk_api.bot_longpoll</code>.
Также советую отправлять сообщения, используя объект, полученный методом <code>
get_api</code>.
Пример (UPD 2):
<code>
from vk_api import VkApi
from vk_api.bot_longpoll import VkBotLongPoll, VkBotEventType
from vk_api.utils import get_random_id
def send_message(peer_id, message):
vk.messages.send(
peer_id=peer_id,
message=message,
random_id=get_random_id(),
)
def prizyv():
# Не забудьте, для этого метода боту нужны права администратора!
members = vk.messages.getConversationMembers(
peer_id=2000000013,
)['items']
# Отрицательный id у нашего и других ботов, их не учитываем
members_ids = [member['member_id'] for member in members if member['member_id'] > 0]
message = 'Призыв!'
for member_id in members_ids:
# Кстати, подходят даже некоторые невидимые символы, например:
# message += f'[id{member_id}|ᅠ]'
message += f'[id{member_id}|#]'
send_message(2000000013, message)
# Замените токен на свой!
accessToken = '...'
groupId = 183464879
vkBotSession = VkApi(token=accessToken)
longPoll = VkBotLongPoll(vkBotSession, groupId)
vk = vkBotSession.get_api()
for event in longPoll.listen():
if event.type == VkBotEventType.MESSAGE_NEW:
"""
Если бот не отвечает на сообщения из беседы, то выдайте ему права
на чтение всей переписки, а лучше сразу права администратора,
потому что они нужны для функции prizyv. Я проверил, бот точно
отвечает с необходимыми правами как в беседе, так и в ЛС.
"""
from_id = event.obj['from_id'] # id пользователя, который отправил сообщение
peer_id = event.obj['peer_id'] # peer_id беседы или ЛС, откуда пришло сообщение
# lower - это метод приведения к нижнему регистру. Для регистронезависимости.
message = event.obj['text'].lower()
# message теперь в нижнем регистре, поэтому все проверки делаем тоже в нижнем регистре
if 'привет' in message:
send_message(peer_id, 'Привет! Как жизнь?')
elif 'как дела' in message:
send_message(peer_id, 'Круто! У тебя как?')
elif 'крут' in message:
send_message(peer_id, 'О да, это точно круто! B-)')
elif message == 'призыв!' and from_id == 504785497: # Здесь у Вас была ошибка. Вы сравнивали peer_id, вместо from_id
prizyv()
</code>
Не забудьте про права и токен.
|
21,590 | Как сделать чтобы max() возвращал самое большое число, а не самое большое первое число (букву)
<code>
numbers = ("4 5 29 54 4 0 -214 542 -64 1 -3 6 -6")
print(numbers)
a = numbers.split()
print(a)
print (max(a))
print (min (int(a)))
</code>
Выведет:
6 и -214
А должен вывести:
542
|
При работе со строками используется лексикографическое сравнение:
<code>
In [19]: "9" > "1000"
Out[19]: True
</code>
поэтому сначала преобразуйте элементы в числа - для этого можно воспользоваться функцией map(int, iterable) ("функциональный стиль"):
<code>
max_ = max(map(int, a))
</code>
или генератором:
<code>
max_ = max(int(x) for x in a)
</code>
@hoefling посоветовал лучший вариант если в качестве результата нужна строка <code>
"542"</code>, а не число:
<code>
In [2]: max(a, key=int)
Out[2]: '542'
</code>
|
21,591 | Разновидности реализаций языка Python
В любой книге, где бы я не читал, говорится, что есть различные реализации языка. Стандартный это, как я знаю, CPython, а есть еще и другие (JPython, IronPython).
Не могу понять, ведь у других реализаций интерпритаторов должен быть свой специфичный синтаксис?
|
Разницы в синтаксисе нет — каждый интерпретатор должен поддерживать грамматику Питона, чтобы иметь право называться таковым. Разница между интерпретаторами есть в
скорости выполнения кода,
доступности модулей: к примеру, не все модули стандартной библиотеки, что имплементированы в CPython, доступны в других реализациях, или имеют другую имплементацию. Модули, которые имплементируют часть функционала в С ("C extensions"), чаще всего не доступны ни с одним другим интерпретатором, кроме CPython'а (к примеру, сторонних реализаций <code>
numpy</code>/<code>
scipy</code> нигде, кроме как для PyPy, нет, да и там она добавлена практически вчера и в бете, ЕМНИП),
мостиках в другие языки. К примеру, Jython умеет напрямую импортировать Java-классы - такой код кинет <code>
ImportError</code> в других интерпретаторах:
<code>
from java.util import Date
from java.lang import System
d = Date()
System.out.println(d)
</code>
Точно так же IronPython умеет работать с CLR и .NЕТ:
<code>
from System import DateTime, String
d = DateTime.Now
print String.Format("{0}", d)
</code>
|
21,593 | Python не хочет декодить в UTF-8
Проблема такая:
<code>
UnicodeDecodeError: 'utf-8' codec can't decode byte 0xff in position 0: invalid start byte
</code>
Мой код жалуется только на те места, где в конце
<code>
.decode("utf-8")
</code>
Сам код:
<code>
process_name = "csgo.exe"
signatures = ""
mode = 1
scan_delay = 5
def crc(fileName):
prev = 0
for eachLine in open(fileName, "rb"):
prev = zlib.crc32(eachLine, prev)
return "%X"%(prev & 0xFFFFFFFF)
import os, subprocess, zlib, time
sigs_path = "./sigs/" + process_name + "_sigs.txt"
sigs_local_path = "./sig.txt"
if mode:
sigs = subprocess.check_output('listdlls ' + process_name).decode("utf-8")
f = open(sigs_path, 'w')
f.write( sigs )
f.close()
f = open(sigs_local_path, 'w')
f.write( sigs )
f.close()
while True:
sigs = subprocess.check_output('listdlls ' + process_name).decode("utf-8")
f.open(sigs_path, 'w')
f.write( sigs )
f.close()
check = crc(sigs_path) == crc(sigs_local_path)
if ( check ):
time.sleep(scan_delay);
continue;
else:
os.system('taskkill /im "' + process_name + '" /f')
print( "Cheat is injected, closing game!" )
break;
</code>
|
Используй <code>
universal_newlines</code> для автоматической декодировки:
<code>
subprocess.check_output(..., universal_newlines=True)
</code>
Начиная с Python 3.7, <code>
universal_newlines</code> заменен на <code>
text</code>:
<code>
subprocess.check_output(..., text=True)
</code>
Кроме того, если кодировка текста неизвестна, можно использовать модуль <code>
chardet</code> для угадывания кодировки:
<code>
out = subprocess.check_output(...)
enc = chardet.detect(out).get('encoding', None)
if enc:
decoded = out.decode(enc)
</code>
|
21,594 | Значение расширения .pyi в Python и его содержимого
Правильно ли я понимаю, что такие модули предоставляют аналог интерфейсов в Java/С#? Или все таки они что-то другое значат?
|
<code>
.pyi</code> файлы - это стабы (stubs), их назначение и формат описаны в PEP 484. Эти файлы вообще никак не используются интерпретатором, их назначение - предоставлять информацию о типизации кода. К примеру, у тебя есть сторонний модуль без типизации, который не твой, редактировать его ты не можешь, а прописать типы хотелось бы:
<code>
# fizz.py
def greet(who):
return f'Hello {who}'
</code>
Выход находится с помощью стаба: создаешь файл <code>
fizz.pyi</code>, который содержит типизированную сигнатуру <code>
greet</code> без имплементации:
<code>
# fizz.pyi
def greet(who: str) -> str:
...
</code>
Теперь утилиты статической типизации типа <code>
mypy</code> или автодополнение кода в Pycharm знают, где найти типизацию для функции <code>
greet</code>.
Правильно ли я понимаю, что такие модули предстовляют аналог интерфейса в (Java,С#) языках?
Нет, в Python интерфейсов в понимании Java/C# нет. Если в Java/C# интерфейсы являются частью программы и напрямую влияют на ее компиляцию (пример: сигнатура класса, имплементирующего интерфейс, расходится с сигнатурой интерфейса
<code>
interface Fizz {
public void buzz();
}
class FizzImpl implements Fizz {
public int buzz() {
return 42;
}
}
</code>
и код банально не скомпилируется). То стабы в Python вообще никак не влияют на работу программы, поскольку интерпретатор их не знает и не видит - они могут отсутствовать, содержать неверный код или вообще абракадабру; проверка типов в редакторе кода сломается, но сама программа будет работать дальше как ни в чем не бывало.
|
21,597 | нужно сделать так, что бы расчет выполнялся только до одного варианта, я написала, но не понимаю что я делаю не так [закрыт]
Закрыт. Этот вопрос не по теме. Ответы на него в данный момент не принимаются.
Вопросы с просьбами помочь с отладкой («почему этот код не работает?») должны включать желаемое поведение, конкретную проблему или ошибку и минимальный код для её воспроизведения прямо в вопросе. Вопросы без явного описания проблемы бесполезны для остальных посетителей. См. Как создать минимальный, самодостаточный и воспроизводимый пример.
Закрыт 4 года назад.
Улучшить вопрос
<code>
A = float(input('Введите A - '))
B = float(input('Введите B - '))
C = float(input('Введите C - '))
if D<0:
D = B ** 2-4 * A * C
E = D ** (1 / 2)
print("решения нет")
F = (-B + E) / (2*A)
G = (-B - E) / (2*A)
else:
if F == G :
print ("решение есть", F)
else :
print (F, G)
</code>
|
<code>
A = float(input('Введите A - '))
B = float(input('Введите B - '))
C = float(input('Введите C - '))
D = B**2 - 4 * A * C
if D < 0:
print("решения нет")
else:
E = D ** (1 / 2)
F = (-B + E) / (2*A)
G = (-B - E) / (2*A)
if F == G :
print ("решение есть", F)
else :
print (F, G)
</code>
|
21,598 | Как подружить модуль gmpy2 с multiprocess?
Как подружить модуль gmpy2 с multiprocess без потери производительности?
При выполнении <code>
p.map(lambda x: (gmpy2.popcount(x & y) ), с)</code> получаю сообщение об ошибке <code>
name 'gmpy2' is not defined</code>
В случае если <code>
p.map</code> заменить на <code>
map</code> - все работает корректно.
<code>
import pandas as pd
import numpy as np
import gmpy2
from multiprocess import Pool
import itertools as itr
def ListIntToBigInt(lst):
return sum(2**i for i in lst)
p = Pool(4)
с = p.map(ListIntToBigInt, list(itr.combinations(range(1,16),6)))
y = ListIntToBigInt([2,3,4,7,10])
similar = 4
m = list(p.map(lambda x: (gmpy2.popcount(x & y) ), с))
m
</code>
|
А многопоточность вам не подойдет?
<code>
from multiprocessing.dummy import Pool
</code>
Если процессор (физический) один, то: <code>
multiprocessing.dummy</code> будет быстрее, т.к. создание потока "дешевле" создания процесса.
Если процессоров несколько, то многопоточность не будет работать одновременно на нескольких процессорах.
|
21,599 | Как исправить ошибку в программе ?(Python)
Помогите найти в чём проблема тут:
<code>
def идеальный_вес():
print('Введите м если вы мужчина или ж если вы женщина')
пол=(sys.stdin.readline())
print('Введите ваш рост')
рост=int(sys.stdin.readline())
if (пол=='м'):
вес=(((рост*4/2.54)-128)*0.453)
elif (пол=='ж'):
вес=(((рост*3.5/2.54)-108)**0.453)
print('Ваш идеальный вес:%s' %вес)
</code>
Пишет,что:
<code>
Traceback (most recent call last):
File "<pyshell#44>", line 1, in <module>
идеальный_вес()
File "<pyshell#43>", line 10, in идеальный_вес
print('Ваш идеальный вес:%s' %вес)
UnboundLocalError: local variable 'вес' referenced before assignment
</code>
|
Я бы реализовал это так:
<code>
def get_ideal_weight(gender: str, height: int) -> int:
if gender == 'м':
weight = ((height * 4 / 2.54) - 128) * 0.453
elif gender == 'ж':
weight = ((height * 3.5 / 2.54) - 108) * 0.453
else:
raise ValueError(f"Value '{gender}' is not one of: 'м', 'ж'")
return weight
def main() -> None:
gender = input('Введите "м", если вы мужчина или "ж", если вы женщина: ')
height = int(input('Введите ваш рост: '))
ideal_weight = get_ideal_weight(gender, height)
print(ideal_weight)
if __name__ == '__main__':
main()
</code>
|
21,600 | Группировка кол-ва выполненных задач по сотрудникам
Как сгруппировать корректно данные?
Имеется датафрейм со статусом завершенных заданий по каждому аналитику и типу задач:
<code>
df1
ID Board Analyst Status Crea_d Fin_d
46258 RUCRA Ivanov open 2019-07-10 NaT
2345 RUCRA Ivanov close 2019-07-11 2019-07-11
46218 RUCRA Ivanov close 2019-07-11 2019-07-11
3087 RUCRA Sidorov open 2019-07-22 NaT
2367 BV Petrov open 2019-07-25 NaT
2985 GRADE Petrov close 2019-07-05 2019-07-05
20987 GRADE Ivanov close 2019-07-11 2019-07-12
2396 BV Sidorov open 2019-07-29 NaT
</code>
Необходимо сгруппировать данные таким образом, чтобы было видно сколько аналитик выполнил и сколько еще невыполненных заданий по типам (Board) за определенный период (за день, неделю, месяц).
<code>
grouped_df:
Board Analyst Status Count
RUCRA Ivanov open 1
RUCRA Ivanov close 2
RUCRA Sidorov open 1
BV Petrov open 1
GRADE Petrov close 1
GRADE Ivanov close 1
BV Sidorov open 1
</code>
Я что-то похожее сделал, но где-то нарушена логика, где не могу разобраться:
<code>
grouped_df: = (df1.groupby(['Board','Analyst','Status', pd.Grouper(key='Fin_d', freq='M')], as_index=False)['ID'].count())
</code>
Просто дальше я хочу строить графики по каждому аналитику, сколько он по дням выполняет заданий (bars) с трендовой линией, но то ли из-за ошибки в коде или нарушения логики, ничего не выходит.
|
Если я правильно понял:
<code>
In [5]: df1.groupby(["Board", "Analyst", "Status"]).size().reset_index(name="Count")
Out[5]:
Board Analyst Status Count
0 BV Petrov open 1
1 BV Sidorov open 1
2 GRADE Ivanov close 1
3 GRADE Petrov close 1
4 RUCRA Ivanov close 2
5 RUCRA Ivanov open 1
6 RUCRA Sidorov open 1
</code>
или так:
<code>
In [11]: df1.groupby(["Board", "Analyst", "Status", pd.Grouper(key='Crea_d', freq='MS')]).size().reset_index(name="Count")
Out[11]:
Board Analyst Status Crea_d Count
0 BV Petrov open 2019-07-01 1
1 BV Sidorov open 2019-07-01 1
2 GRADE Ivanov close 2019-07-01 1
3 GRADE Petrov close 2019-07-01 1
4 RUCRA Ivanov close 2019-07-01 2
5 RUCRA Ivanov open 2019-07-01 1
6 RUCRA Sidorov open 2019-07-01 1
</code>
|
21,603 | Как установить значение переменной окружения на macOS, чтобы иметь к ней доступ из кода python
Я работаю с некоторым API, у меня есть ключ к нему, который я хотела бы хранить в переменной окружения (enviroment vars) и получать доступ из кода python с помощью os.environ из модуля os. Работаю на macOS Mojave в IDE PyCharm.
Как я могла бы установить значение переменной окружения в своей системе, чтобы затем иметь к ней доступ из кода в python?
<code>
import os
print(os.environ['API_KEY'])
</code>
|
При запуске скрипта через консоль:
Перед запуском скрипта прописать в Bash <code>
export myVar=$var</code>.
При запуске скрипта из IDE:
Следует установить переменные окружения в самой IDE. Для PyCharm этот процесс подробно описан здесь.
|
21,606 | Как сделать картинку в Python из двухмерного массива чисел?
<code>
image = numpy.zeros((ppoints, qpoints))
matplotlib.pyplot.imshow(image, cmap='flag')
</code>
Так в Jupyter Notebook картинка выводится на экран
А как в сохранить эту картинку на диске? (просто тапнуть на картинку и нажать "Сохранить" бессмысленно, когда разрешение 20000х20000)
|
<code>
import scipy.misc
scipy.misc.imsave('image.jpg', image)
</code>
Попробуй так
|
21,607 | Проверка ID пользователя через БД. SQLite, vk_api
Есть база данных, в ней таблица с 4 значениям, при проверке пользователя мне нужно всего лишь одно значение это <code>
uid</code>. Работаю одновременно с vk_api, суть заключается в том, что при запросе команды, код проверяет, нахожусь ли я в БД или нет:
<code>
if request == '/+бд': # Загрузка пользователей беседы в БД.
import sqlite3
Connect = sqlite3.connect('CaptureBotDB.db')
Cursor = Connect.cursor()
cid = event.chat_id
sql = """SELECT uid FROM AdminsInChat WHERE cid = ?;"""
Connect.execute(sql, (str(cid)))
checkAdmin = Cursor.fetchall()
if user_id in checkAdmin:
loadDB() # Функция.
else:
write_msg(vk, chat_id, error02)
</code>
Команда работает, код пишет мне ошибку, если я не в БД, но есть проблема. Когда я себя туда добавил, код, всё равно пишет тоже самое.
Что не так? Подскажите пожалуйста.
|
<code>
Connect.execute(sql, (str(cid)))</code> - запросы к БД делаются через объект курсора, а не через объект соединения
Функция <code>
execute</code> в качестве второго аргумента принимает итерируемый объект параметров (список, кортеж, генератор, строку и т.д.). Вы же передаёте туда строку, что воспринимается, как итерируемый объект символов, т.е. в запрос <code>
SELECT uid FROM AdminsInChat WHERE cid = ?;</code>
вместо знаков <code>
?</code> "пытается" подставиться каждый символ строки. И если бы у Вас в <code>
cid</code> содержалось число, содержащее более одной цифры, то у Вас бы сработало исключение. Например, для <code>
cid = 23</code> Вы бы получили исключение: <code>
sqlite3.ProgrammingError: Incorrect number of bindings supplied. The current statement uses 1, and there are 2 supplied.</code> Поэтому Вам надо передавать итерируемый объект, содержащий строку. Например, список: <code>
Cursor.execute(sql, [str(cid)])</code>.
Как выяснилось из чата, колонка <code>
cid</code> в Вашей БД имеет тип INTEGER, Вы же туда пытаетесь передать строку. Я не знаю, как ведёт себя sqlite, если ему в запросе вместо числа скормить строку, но лучше всё же перестраховаться и передавать именно число. Т.к. я не знаю наверняка, какой тип имеет переменная <code>
cid</code> в Вашем коде, то с использованием явного приведения это будет выглядеть так: <code>
Cursor.execute(sql, [int(cid)])</code>.
<code>
checkAdmins</code> у Вас после этого является списком, содержащим кортежи, которые представляют собой строки из таблицы. И Вам необходимо проверить, есть ли Ваш <code>
user_id</code> среди этих строк. Условие будет таким: <code>
if user_id in (row[0] for row in checkAdmins):</code>.
|
21,608 | Import и область видимости
Есть файл main.py и funcs.py.
Почему я не могу так делать?
main.py
<code>
import pygame
from funcs import *
display = pygame.display.set_mode()
def main():
change_background()
main()
</code>
funcs.py
<code>
def change_background():
display.change_background(255,255,255)
</code>
NameError: name 'display' is not defined
|
Тут стоит показать весь файл <code>
funcs.py</code>. В данном куске кода в функции <code>
change_background()</code> не определено сущности <code>
display</code>.
Если используется сущность из <code>
main.py</code>, то в функции <code>
change_background</code> стоит ожидать аргумент на вход и использовать его.
main.py
<code>
import pygame
from funcs import *
display = pygame.display.set_mode()
def main():
change_background(display)
</code>
funcs.py
<code>
def change_background(dsp):
dsp.change_background(255,255,255)
</code>
|
21,609 | Группировка значений и вывод в отдельный столбец
Есть <code>
DataFrame</code> в котором указан возраст пассажира. Нужно сгруппировать данные следующим образом:
<code>
df[df['Age'] <= 40] - 1 (young)
df[df['Age'] > 40] - 2 (old)
</code>
и вывести в отельную колонку.
|
можно сделать так:
<code>
df["new_col_name"] = (df['Age'] > 40) + 1
</code>
пояснение:
<code>
df['Age'] > 40</code> - вернет булевый столбец. Если прибавить к булевым значениям единицу, то получим <code>
1</code> вместо <code>
False</code> и <code>
2</code> вместо <code>
True</code>.
пример:
<code>
In [25]: df = pd.DataFrame({"age": [20, 50, 60, 40]})
In [26]: df
Out[26]:
age
0 20
1 50
2 60
3 40
In [27]: df["age"] > 40
Out[27]:
0 False
1 True
2 True
3 False
Name: age, dtype: bool
In [28]: (df["age"] > 40) + 1
Out[28]:
0 1
1 2
2 2
3 1
Name: age, dtype: int32
</code>
|
21,610 | Ошибка при выполнении
Скрипт:
<code>
import paramiko
import time
import sys
import getpass
#Функция вывода на экран и в файл
def LogInfo(сhannel):
output = сhannel.recv(9999)
print (output.decode('utf-8'))
print (output.decode('utf-8'), file=open('logfile.log', 'a'))
print ('\n\n')
#Получаем список IP адресов для подключения
#Способ №1
#FILE = open('IP.txt', 'r')
#DEVICES_IP = FILE.readlines()
#FILE.close()
#Способ №2
with open('IP.txt', 'r') as f:
DEVICES_IP = f.readlines()
#Параметры доступа к коммутаторам
user = 'admin'
password = '***'
print ("\n\n#### Starting script ####\n")
#Подключаемся к коммутатору
for IP in DEVICES_IP:
print('Connection to device {}'.format(IP))
ssh = paramiko.SSHClient()
ssh.set_missing_host_key_policy(paramiko.AutoAddPolicy())
ssh.connect(hostname=IP, username=user, password=password, port=22)
#Подготовка к вводу команд на коммутатор
сhannel = ssh.invoke_shell()
print (сhannel.send_ready())
#Отправляем команды на коммутатор
сhannel.send('***')
time.sleep(0.3)
LogInfo(сhannel)
#Сообщаем о завершении сессии SSH
print ("\n\n### Ending Script ###\n\n\n")
input('\nPress Enter for quit')
</code>
Ошибка:
<code>
====================== RESTART: D:\Desktop\HP Switch.py ======================
#### Starting script ####
Connection to device 10.15.0.204
Traceback (most recent call last):
File "D:\Desktop\HP Switch.py", line 37, in <module>
ssh.connect(hostname=IP, username=user, password=password, port=22)
File "C:\Users\ruslan.alimov\AppData\Local\Programs\Python\Python37-32\lib\site-packages\paramiko\client.py", line 340, in connect
to_try = list(self._families_and_addresses(hostname, port))
File "C:\Users\ruslan.alimov\AppData\Local\Programs\Python\Python37-32\lib\site-packages\paramiko\client.py", line 204, in _families_and_addresses
hostname, port, socket.AF_UNSPEC, socket.SOCK_STREAM
File "C:\Users\ruslan.alimov\AppData\Local\Programs\Python\Python37-32\lib\socket.py", line 748, in getaddrinfo
for res in _socket.getaddrinfo(host, port, family, type, proto, flags):
socket.gaierror: [Errno 11001] getaddrinfo failed
</code>
Если передать переменную просто как список строк, то всё работает.
<code>
DEVICES_IP = ['10.15.0.204', '10.15.0.247', '10.15.0.50']
</code>
Прошу подсказать в чём проблема
|
Вот, что примерно возвращает функция <code>
readlines()</code>:
<code>
['10.15.0.204\n', '10.15.0.247\n', '10.15.0.50']</code>
Естественно, сокет в недоумении, т.к. символ перевода строки явно не входит в его планы по распознаванию IP-адреса.
Предлагаю так:
<code>
import paramiko
import time
import sys
import getpass
#Функция вывода на экран и в файл
def LogInfo(сhannel):
output = сhannel.recv(9999)
print (output.decode('utf-8'))
print (output.decode('utf-8'), file=open('logfile.log', 'a'))
print ('\n\n')
#Получаем список IP адресов для подключения
#Способ №1
#FILE = open('IP.txt', 'r')
#DEVICES_IP = FILE.readlines()
#FILE.close()
#Способ №2
with open('IP.txt', 'r') as f:
DEVICES_IP = f.readlines()
#Параметры доступа к коммутаторам
user = 'admin'
password = '***'
print ("\n\n#### Starting script ####\n")
#Подключаемся к коммутатору
for IP in DEVICES_IP:
if(IP[-1] == '\n') # Если есть символ перевода строки
IP = IP[:-1] # удаляем его
print('Connection to device {}'.format(IP))
ssh = paramiko.SSHClient()
ssh.set_missing_host_key_policy(paramiko.AutoAddPolicy())
ssh.connect(hostname=IP, username=user, password=password, port=22)
#Подготовка к вводу команд на коммутатор
сhannel = ssh.invoke_shell()
print (сhannel.send_ready())
#Отправляем команды на коммутатор
сhannel.send('***')
time.sleep(0.3)
LogInfo(сhannel)
#Сообщаем о завершении сессии SSH
print ("\n\n### Ending Script ###\n\n\n")
input('\nPress Enter for quit')
</code>
Наивно и просто: в этом коде из каждого IP-адреса удаляется символ перевода строки, который мешает его распознать.
Для чтения файла сразу без переводов строк можно использовать:
<code>
f.read().splitlines()</code>
Тогда код упростится до такого:
<code>
import paramiko
import time
import sys
import getpass
#Функция вывода на экран и в файл
def LogInfo(сhannel):
output = сhannel.recv(9999)
print (output.decode('utf-8'))
print (output.decode('utf-8'), file=open('logfile.log', 'a'))
print ('\n\n')
#Получаем список IP адресов для подключения
#Способ №1
#FILE = open('IP.txt', 'r')
#DEVICES_IP = FILE.readlines()
#FILE.close()
#Способ №2
with open('IP.txt', 'r') as f:
DEVICES_IP = f.read().splitlines() # Изменил только одну строку
#Параметры доступа к коммутаторам
user = 'admin'
password = '***'
print ("\n\n#### Starting script ####\n")
#Подключаемся к коммутатору
for IP in DEVICES_IP:
print('Connection to device {}'.format(IP))
ssh = paramiko.SSHClient()
ssh.set_missing_host_key_policy(paramiko.AutoAddPolicy())
ssh.connect(hostname=IP, username=user, password=password, port=22)
#Подготовка к вводу команд на коммутатор
сhannel = ssh.invoke_shell()
print (сhannel.send_ready())
#Отправляем команды на коммутатор
сhannel.send('***')
time.sleep(0.3)
LogInfo(сhannel)
#Сообщаем о завершении сессии SSH
print ("\n\n### Ending Script ###\n\n\n")
input('\nPress Enter for quit')
</code>
|
21,612 | Сортировка значений словаря при помощи sorted()
Задача: отсортировать значения словаря.
Наткнулся на непонятную конструкцию: key=my_dict.get
Почему в данном случае происходит сортировка, если get-это метод класса dict и у него есть обязательный аргумент?
Все остальное - понятно.
<code>
result = sorted(my_dict, key=my_dict.get, reverse=True)[:3]
</code>
Спасибо за ответ.
|
Параметр <code>
key</code> в функции sorted(iterable, /, *, key=None, reverse=False) - функция, которая вызывается для каждого элемента из <code>
iterable</code>.
Таким образом мы можем сортировать сложные объекты, указывая атрибуты или элементы вложенных списков / массивов.
Пример:
<code>
In [21]: my_dict = {"b": 100, "c": 10, "a": 50}
In [22]: sorted(my_dict, key=my_dict.get, reverse=True)
Out[22]: ['b', 'a', 'c']
</code>
можно переписать более понятным, но менее элегантным способом:
<code>
In [23]: sorted(my_dict, key=lambda x: my_dict.get(x), reverse=True)
Out[23]: ['b', 'a', 'c']
</code>
|
21,613 | (Python bot) Как отмечать людей в беседе через бота?
у меня интересный вопрос. У меня есть бот на vk(написан на Python). Как сделать так чтобы он через цикл мог отмечать определенным символом участников беседы? Например как можно сделать это в вк @id и человек отмечен и ему пришло уведомление. Только мне нужно чтобы бот написал символы $$$$$$$$$ и каждый символ $ отмечал человека в беседе. В ручную сделать никак, так как придется все время открывать код и добавлять нового человека.
Вот мой код
<code>
import vk_api
import random
import time
vk = vk_api.VkApi(token="021cad5014bf87033caafb6f6b3583a01018dbf391a48f05ea92a5b37e710c897d44278e13f66af7a1381")
app = Flask(__name__)
@app.route('/', methods = ["POST"])
def main():
data = json.loads(request.data)
if data["type"] == "confirmation":
return "0f05cbd9"
elif data["type"] == "message_new":
object = data["object"]
id = object["peer_id"]
body = object["text"]
if ("крут" in body.lower() or "cool" in body.lower()) and "полностью согласен! реально круто 😎" != body.lower():
vk.method("messages.send", {"peer_id": id, "message": "О да, это точно круто! 😎", "random_id": random.randint(1, 2147483647)})
elif "привет" in body.lower():
vk.method("messages.send", {"peer_id": id, "message": "Привет! Как жизнь?", "random_id": random.randint(1, 2147483647)})
elif "как дела" in body.lower():
vk.method("messages.send", {"peer_id": id, "message": "У меня все круто! Надеюсь у тебя также.", "random_id": random.randint(1, 2147483647)})
elif "начать" == body.lower():
vk.method("messages.send", {"peer_id": id, "message": "Ну шо, погнали. Команды гадай сам или спроси у Санчая.", "random_id": random.randint(1, 2147483647)})
elif body.lower() == "бот, ссылку":
vk.method("messages.send", {"peer_id": id, "message": "Бро, подпишись vk.com/sanchbot", "random_id": random.randint(1, 2147483647)})
elif "ватафак" in body.lower():
vk.method("messages.send", {"peer_id": id, "message": "Ват ю сей, мен! Ватафак!", "random_id": random.randint(1, 2147483647)})
elif body.lower() == "тиха":
vk.method("messages.send", {"peer_id": id, "message": "Тсссссссссссс!", "random_id": random.randint(1, 2147483647)})
elif "флекс" in body.lower():
vk.method("messages.send", {"peer_id": id, "message": "О да! ФЛЕКСИМ! 😎", "random_id": random.randint(1, 2147483647)})
elif "яратам" in body.lower():
vk.method("messages.send", {"peer_id": id, "message": "Мин сине яратам! ❤", "random_id": random.randint(1, 2147483647)})
elif "татмак" in body.lower():
vk.method("messages.send", {"peer_id": id, "message": "Мммм.. Татмаки, Родя сказал они вкусные", "random_id": random.randint(1, 2147483647)})
elif "добрый вечер" in body.lower():
vk.method("messages.send", {"peer_id": id, "message": "Добрейший вечерочек 😎", "random_id": random.randint(1, 2147483647)})
elif "доброе утро" in body.lower():
vk.method("messages.send", {"peer_id": id, "message": "Добрейшее утречко, господа 😎", "random_id": random.randint(1, 2147483647)})
elif "добрый день" in body.lower():
vk.method("messages.send", {"peer_id": id, "message": "Добрый день, сэр! 😎", "random_id": random.randint(1, 2147483647)})
elif body.lower() == "бот, поздоровайся":
vk.method("messages.send", {"peer_id": id, "message": "Экии привет", "random_id": random.randint(1, 2147483647)})
elif "что мне сегодня приготовить" in body.lower():
vk.method("messages.send", {"peer_id": id, "message": "Можешь приготовить мое сердечко ❤", "random_id": random.randint(1, 2147483647)})
elif "нарут" in body.lower():
vk.method("messages.send", {"peer_id": id, "message": "Наруто - это круто!", "random_id": random.randint(1, 2147483647)})
elif "надевай очки" in body.lower():
vk.method("messages.send", {"peer_id": id, "message": "😎", "random_id": random.randint(1, 2147483647)})
elif "good morning" in body.lower() or "гуд монинг" in body.lower() or "гуд морнинг" in body.lower():
vk.method("messages.send", {"peer_id": id, "message": "Доброе утро! Хорошего вам дня ❤", "random_id": random.randint(1, 2147483647)})
elif "доброй ночи" in body.lower():
vk.method("messages.send", {"peer_id": id, "message": "Сладких снов ❤", "random_id": random.randint(1, 2147483647)})
elif "всем хорошего дня" in body.lower():
vk.method("messages.send", {"peer_id": id, "message": "И тебе хорошего дня!", "random_id": random.randint(1, 2147483647)})
elif "ех" in body.lower():
vk.method("messages.send", {"peer_id": id, "message": "Еех!", "random_id": random.randint(1, 2147483647)})
elif "я ною" in body.lower():
vk.method("messages.send", {"peer_id": id, "message": "Вот именно! Че ты ноешь?!", "random_id": random.randint(1, 2147483647)})
return "ok"
</code>
|
Для упоминания необходимо отправить сообщение вида <code>
[id123456789|текст]</code>, где <code>
123456789</code> - это <code>
id</code> пользователя, а <code>
текст</code> - текст упоминания.
Для того, чтобы получить <code>
id</code> всех пользователей беседы, можно отправить запрос к <code>
vk API</code>, а именно к методу <code>
getConversationMembers</code>. Имейте в виду, что боту необходимы права администратора беседы.
Также я позволил себе исключать участников с отрицательным <code>
id</code>. Такой <code>
id</code> у сообществ, то есть у нашего и других ботов.
Пример:
<code>
from vk_api import VkApi
from vk_api.utils import get_random_id
import settings
vkBotSession = VkApi(token=settings.accessToken)
vk = vkBotSession.get_api()
def main():
members = vk.messages.getConversationMembers(
peer_id=2000000000,
)['items']
members_ids = [member['member_id'] for member in members if member['member_id'] > 0]
message = ''
for member_id in members_ids:
message += f'[id{member_id}|#]'
vk.messages.send(
peer_id=2000000000,
message=message,
random_id=get_random_id()
)
if __name__ == '__main__':
main()
</code>
В <code>
settings.py</code> у меня находятся токены. Замените на свои. Также следует заменить все <code>
peer_id</code> в коде на <code>
peer_id</code> конкретно Вашей беседы.
Ну и не знаю уж почему, ВК не желает форматировать упоминание со знаком <code>
$</code> (хотя уведомление приходит), поэтому я заменил знак на <code>
#</code>.
UPD:
Для того чтобы получить <code>
peer_id</code> я пользуюсь данным скриптом:
<code>
from vk_api import VkApi
from vk_api.bot_longpoll import VkBotLongPoll, VkBotEventType
import settings # В этом файле у меня токены
vkSession = VkApi(token=settings.accessToken)
longPoll = VkBotLongPoll(vkSession, settings.groupId)
vk = vkSession.get_api()
def main() -> None:
for event in longPoll.listen():
if event.type == VkBotEventType.MESSAGE_NEW:
print(event.obj['peer_id'])
if __name__ == '__main__':
main()
</code>
Всё что требуется - отправить сообщение в беседу с ботом.
|
21,615 | Как взять несколько значений из вложенного списка?
Я столкнулся с проблемой, что не могу взять все значения из вложенного списка, а только одно значение. Как мне сделать, чтобы можно было взять несколько значений из изменяющегося списка ?
<code>
alltext=[{
"name": "sample string 1",
"relationships": [
{
"isBlocked": False,
"orderIndex": 1,
"relationship": {
"debts": [
{
"currency": {
"id": "sample string2",
"isoCode": "string",
"isoNumber3": "string",
"name": "string"
},
#"sum"#: 0.0
}
],
"deferment": 90,
"id": "string",
#"name"#: "string 1",
"overdueDebts": [
{
"currency": {
"id": "string",
"isoCode": "string",
"isoNumber3": "string",
"name": "string"
},
#"sum"#: 1000.0
}
],
"vendorId": "string"
}
},
{
"isBlocked": False,
"orderIndex": 2,
"relationship": {
"debts": [
{
"currency": {
"id": "string",
"isoCode": "string",
"isoNumber3": "string",
"name": "string"
},
#"sum"#: 0.0
}
],
"deferment": 90,
"id": "string",
"limit": 0.0,
#"name"#: "string ",
"overdueDebts": [
{
"currency": {
"id": "string",
"isoCode": "string",
"isoNumber3": "string",
"name": "string"
},
#"sum"#: 2000.0
}
],
"vendorId": "string"
}
}
]
}
]
</code>
Я пробовал сделать так:
<code>
for i in range(len(alltext)):
ordersname.append(alltext[i]['relationships'][0]['relationship']['name'])
</code>
Но так берётся только первый <code>
name</code>. Я понимаю, что это скорее всего из-за <code>
[0]</code>, но если его убрать, то будет ошибка <code>
not slice or str</code>
Также пробовал это сделать вот так:
<code>
Debts.append([routeDict['sum'] for routeDict in alltext[i]['relationships'][0]['relationship']['debts']])
OverdueDebts.append([routeDict['sum'] for routeDict in alltext[i]['relationships'][0]['relationship']['overdueDebts']])
</code>
Но здесь та же ошибка. Как мне достать все <code>
sum</code> и <code>
name</code> из <code>
[relationships][relationship]</code>?
|
Ну вот тебе пример на тему ООП, разбирайся (для Python 3.7+):
Советую с этим таки разобраться. Сильно облегчает жизнь.
<code>
from collections import UserList
from dataclasses import dataclass, asdict
@dataclass
class Order:
"""Это датакласс.
Объект, похожий на словарь.
(Да, я знаю, что на именованный кортеж он больше похож,
не надо меня минусить.)
"""
# Он может хранить следующие поля (ключи):
name: str
sum_debts: float
sum_overdue: float
def __init__(self, relationship):
"""Конструктор класса.
Получает ветку relationship,
достает оттуда name, sum,
сохраняет внутри себя найденные значения.
"""
self.name = relationship['name']
self.sum_debts = relationship['debts'][0]['sum']
self.sum_overdue = relationship['overdueDebts'][0]['sum']
def __str__(self):
"""Функция печати.
Когда вызывается print(объект)
насамом деле происходит:
строка = объект.__str__()
print(строка)
В данном случае, берутся сохраненные внутри датакласса
name, sum_debts, sum_overdue,
склеиваются join'ом и возвращаются (print'у)
"""
return ' '.join(
[self.name,
str(self.sum_debts),
str(self.sum_overdue)])
def __getitem__(self, item):
"""Позволяет получать аттрибуты класса, с помощью:
объект['аттрибут'] т.е. можно получить:
name, sum_debts, sum_overdue, аналогично словарям."""
return getattr(self, item)
def as_dict(self):
"""Конвертировать в обычный словарь."""
return asdict(self)
class Orders(UserList):
"""Слегка доработанный список.
Ведет себя, как обычный список, только в консоль выводится иначе.
"""
def __str__(self):
"""Аналогична функции из Order,
только склеивает содержимое себя.
Т.е. список.
"""
return '\n'.join(map(str, self.data))
orders = Orders() # Создаем наш уникальный пустой (пока) список с разобранными блоками.
for block in alltext:
for relationship in block['relationships']:
# Создаем объект нашего Order и отдаем ему ветку relationship.
# Пусть сам разбирается, что с ней делать.
# Созданный объект Order добавляем в наш уникальный список orders, как и в любой другой список.
orders.append(Order(relationship['relationship']))
# Печатаем содержимое нашего списка.
print(orders)
print('--------\n')
# Примеры того, как взаимодействовать с тем, что мы сгенерили:
# Cам orders не буду трогать. Это обычный list, только функция печати другая.
print(orders[0]) # Печатаем наш датакласс из первой строки.
print(orders[0].name) # Печатаем имя из первой строки.
print(orders[0]['name']) # Аналогично.
print(orders[1].sum_debts) # Печатаем sum_debts из второй строки.
print(orders[1].sum_overdue) # Печатаем sum_overdue из второй строки.
print(orders[0].as_dict()) # Печатаем первый элемент списка в виде словаря, а не dataclass'a.
</code>
<code>
dataclass</code> потребляет меньше оперативы, чем <code>
dict</code>, но больше процессорного времени.
А это для скучных:
<code>
orders = []
for block in alltext:
for relationship in block['relationships']:
orders.append({
'name': relationship['relationship']['name'],
'sum_debts': relationship['relationship']['debts'][0]['sum'],
'sum_overdue': relationship['relationship']['overdueDebts'][0]['sum'],
})
print(orders)
</code>
|
21,617 | Ошибка переопределения массива в python
При написании кода, столкнулся с проблемой, заключающейся в неожиданных результатах, полученных после переопределения массива на основе его глубокой копии.
Приведу пример:
<code>
import copy
mas = [['blue'] * 3] * 3
mas[0] = ['red'] * 3
copy_mas = copy.deepcopy(mas)
mas[0][2] = copy_mas[0][0]
mas[2][2] = copy_mas[0][2]
</code>
После исполнения массив <code>
mas</code> выглядит так:
<code>
mas = [['red', 'red', 'red'], ['blue', 'blue', 'red'], ['blue', 'blue', 'red']]
</code>
Значение <code>
mas[1][2]</code> изменилось, однако, в коде я его не изменял.
Буду благодарен, если кто-нибудь сможет объяснить, почему это происходит и предложить альтернативное решение, в котором можно изменять массив на основе его копии без подобных казусов.
|
При создании массива, Вы множите не данные, а ссылки на один и тот же объект массива.
Вот проблемная строка:
<code>
mas = [['blue'] * 3] * 3
</code>
После исполнения этой инструкции, массив <code>
mas</code> будет содержать 3 ссылки на один и тот же объект массива.
Докажем это, воспользовавшись оператором <code>
is</code>:
<code>
print(mas[0] is mas[1] is mas[2]) # True
</code>
Именно поэтому инструкция <code>
mas[2][2] = copy_mas[0][2]</code> также затронет элемент <code>
mas[1]</code>
Для того чтобы избежать копирования ссылок, можно воспользоваться генератором списков:
<code>
mas = [['blue'] * 3 for i in range(3)]
</code>
|
21,618 | Как увеличить значение переменной?
Я написал код и мне выводит ошибку:
<code>
Traceback (most recent call last):
File "/Users/Rain/Desktop/yazik.py", line 16, in <module>
EnterTimes = EnterTimes + 1
TypeError: can only concatenate str (not "int") to str
</code>
Весь код:
<code>
import os
Code = ""
NeedStop = "No"
EnterTimes="0"
String=""
AirVar=""
print (AirVar)
print ("Devian Language")
print ("For help type deviancommandes,tap enter 5 times to finish programm")
while NeedStop == "No":
String = input()
if String == AirVar:
EnterTimes = EnterTimes + 1
</code>
Тут я пытаюсь увеличить значение переменной <code>
EnterTimes</code>, где меня и ждет ошибка:
<code>
else:
EnterTimes = 0
if EnterTimes == 5:
NeedStop = Yes
</code>
|
Вы не можете складывать (в Вашем случае - конкатенировать) строку с числом.
Почему строку? А потому что <code>
0</code> в Вашем примере заключён в строковые литералы <code>
""</code>:
<code>
EnterTimes = "0"
</code>
Вы патаетесь выполнить инструкцию <code>
"0" + 1</code>, что и приводит к ошибке.
Замените <code>
"0"</code> на <code>
0</code> и это будет работать:
<code>
EnterTimes = 0
</code>
Немного общих рекомендаций:
Используйте 4 пробела для отступов
Не называйте переменные с заглавной буквы. Так принято именовать классы. Желательно использовать <code>
camelCase</code>.
Для бинарных структур (имеющих 2 значения, например <code>
yes</code>/<code>
no</code>) используйте класс <code>
bool</code>
Не ставьте пробелы перед аргументами функции
Делайте отступы после импорта классов
Замените 2 подряд идущих вызова <code>
print</code> на 1
Ставьте пробелы между оператором <code>
=</code>
Не инициализируйте переменные до тех пор, пока они Вам не нужны
Называйте переменные осмысленно (это я про Ваш <code>
String</code> говорю)
Пример:
<code>
import os
enterTimes = 0
airVar = ''
print(
'Devian Language',
'For help type deviancommandes, tap enter 5 times to finish programm',
sep='\n'
)
needStop = False
while not needStop:
inp = input()
if inp == airVar:
EnterTimes += 1
...
</code>
|
21,619 | Как разделить большой xml-файл размеров 1 гб на множество по 20 мб?
Мне дали большой xml-файл, который мне требуется импортировать на сайт, но компонент отвечающий за импорт принимает только файлы меньше 20 МБ. Можно ли с помощью алгоритма на python из одного большого xml-файла достать все данные и равномерно распределить на множество небольших по 20 и меньше мегабайт?
Под "равномерно распределить" я имею ввиду что бы файл заканчивался на <code>
</root></code> и в один файл не попадал <code>
</root></code> и его дочерние элементы из другого файла. Каждый блок весит от силы полмегабайта-мегабайт.
Пример одного блока в файле:
<code>
<?xml version="1.0" encoding="UTF-8" ?>
<root>
<Big_Images>
<item>path/to/img1.jpg</item>
<item>path/to/img2.jpg</item>
<item>path/to/img3.jpg</item>
</Big_Images>
<Title>
<item>Название</item>
</Title>
<Main_Info>
<item>Около 50-100 строк html кода</item>
</Main_Info>
<Package_Weight>
<item>Product weight: 1.2 kg</item>
<item>Package weight: 1.3 kg</item>
</Package_Weight>
<Package_Content></Package_Content>
</root>
</code>
|
<code>
from lxml import etree
data = """
<root>
<Big_Images>
<item>path/to/img1.jpg</item>
<item>path/to/img2.jpg</item>
<item>path/to/img3.jpg</item>
</Big_Images>
<Title>
<item>Название</item>
</Title>
<Main_Info>
<item>Около 50-100 строк html кода</item>
</Main_Info>
<Package_Weight>
<item>Product weight: 1.2 kg</item>
<item>Package weight: 1.3 kg</item>
</Package_Weight>
<Package_Content></Package_Content>
</root>
"""
data = data*3 # Для пример будет 3 одинаковых дерева <root>
class Saver:
name = '/путь/к/название_файла_{}.xml' # Скобки '{}' - место для счетчика.
start_id = 0
nblocks = 2 # << Кол-во блоков на один файл.
_cur_block_id = 0
_cur_block_str = ''
def __call__(self, data):
if self._cur_block_id < self.nblocks:
self._cur_block_id += 1
self._cur_block_str = '\n'.join([self._cur_block_str, data])
else:
name = self.name.format(self.start_id)
self.start_id += 1
with open(name, 'w') as f:
f.write(self._cur_block_str)
self._cur_block_id = 1
self._cur_block_str = data
def __del__(self): # Обрати внимание, что последний файл будет записываться при удалении объекта saver.
name = self.name.format(self.start_id)
self.start_id += 1
with open(name, 'w') as f:
f.write(self._cur_block_str)
data = f'<roots>{data}</roots>' # Т.к. у нас получается битый xml (множество одинаковых тегов в корне)
parsed = etree.fromstring(data).findall('root')
saver = Saver()
for i in parsed:
saver(etree.tostring(i, encoding='unicode'))
del saver # Это удаляет объект saver и сохраняет последний файл.
</code>
Не забудь убрать: <code>
data = data*3</code>
При проблемах с кодировкой на Windows, замените <code>
'w'</code> на <code>
'ab'</code> в <code>
open</code> и удалите <code>
encoding='unicode'</code> из <code>
tostring</code>.
|
21,620 | JSONDecodeError при получении объекта из файла
Подскажите пожалуйста, почему получаю ошибку при получении списка из файла.
<code>
import json
with open('file', 'r+') as f:
json.dump([1, 'hello', 'new'], f)
json.load(f)
</code>
В файл записался список:
[1, "hello", "new"]
Теперь load() мне выкидывает ошибку:
json.decoder.JSONDecodeError: Expecting value: line 1 column 1 (char 0)
Ругается на квадратную скобку?
Переписал код.
<code>
import json
with open('file', 'w') as f:
json.dump([1, 'hello', 'new'], f)
with open('file', 'r') as f:
json.load(f)
</code>
Ошибка исчезла. Хотя код по сути один и тот же. Почему так происходит? Заранее благодарен за помощь.
|
Вы записали в файл данные, а потом пытаетесь прочитать что-то после этих данных ("курсор" находится в конце файла). После записи нужно переместиться на начало файла с помощью <code>
f.seek(0)</code>, после этого вы сможете прочитать из файла то, что только что записали.
|
21,621 | Декораторы сообщений с неизвестными элементами и парсинг как во фреймворке Flask
Мне была поставлена задача сделать обработку сообщений с помощью декораторов. Задача была выполнена так:
Класс декораторов выглядел так:
<code>
class Events:
_messages_func = dict()
_undefined_messages_func = (
lambda: print('Добавьте в код on_undefined декоратор')
)
def on_message(text: str):
def decorator(func):
self._messages_func[text] = func
return func
return decorator
def on_undefined():
def decorator(func):
self._undefined_messages_func = func
return func
return decorator
</code>
Класс самого "бота" выглядел так:
<code>
class Bot(Events):
def __init__(self):
pass # Далее была связь с API и так далее, но это не меняет условия задачи
def process_message(text: str):
if text in self._messages_func:
self._messages_func[text]()
else:
self._undefined_messages_func()
</code>
Далее я использовал это так:
<code>
bot = Bot()
@bot.on_message('привет')
def my_function():
print('Мне написали привет!')
message = input('Введи сообщение >>')
bot.process_message(message)
</code>
Все работало прекрасно, до тех пор пока я не получил задание добавить в on_message элементы как в route во flask. То есть там можно в сам декоратор route написать:
<code>
@app.route('/<my_var>')</code>
и my_var вернется в функцию как именованный аргумент
Например такой декоратор:
<code>
@bot.on_message('страница <page>')
def my_function(page):
print(f'Открываю страницу {page}')
</code>
При процессинге сообщения "страница 10", будет выведено "Открываю страницу 10"
Конечно, это можно просто реализовать с помощью split по пробелам, но так же мне хотелось бы поддерживать например такие штуки как:
<code>
Я родился 07.08.2019</code>
Я пытался реализовать это с помощью регулярных выражений и в течении этого времени чуть не сошел с ума, есть ли способ лучше и как это вообще возможно реализовать?
|
Начать можно с этого
<code>
import re
def to_regex(text, escape={ord(x): '\\' + x for x in r'\.*+?()[]|^$'}):
pattern = re.sub('(<.*?>)', r'(?P\1.*)', text.translate(escape))
return re.compile(pattern)
</code>
А дальше дело техники
<code>
>>> to_regex('страница <page>').match('страница 10').groupdict()
{'page': '10'}
>>> to_regex('Меня зовут <name>.').match('Меня зовут Иван Иванович.').groupdict()
{'name': 'Иван Иванович'}
>>> to_regex('<a> + <b> = <c>').match('11 + 4 = 15').groupdict()
{'a': '11', 'b': '4', 'c': '15'}
</code>
Текст, само собой, должен совпадать с шаблоном очень точно. Для нечеткого сравнения понадобится куда более сложный алгоритм.
|
21,622 | Как создать сложный словарь?
Есть данные, которые приходят с html формы:
<code>
camId = request.form.getlist('id') #список id кампаний
camName = request.form.getlist('campaign_name') # список имён кампаний
maxBid = request.form.getlist('maxbid') # список максимальных ставок для кампании
status = request.form.getlist('status') # список статусов 'on'\'off'
client = request.form['client'] # логин клиента
</code>
Все списки имеют одинаковую длину.
Подскажите, как из имеющихся данных создать такую структуру:
<code>
{client:{'Campaigns':{'id':12345, 'name':'poisk', 'maxbid':50, 'status':'on'},{'id':54321, 'name':'poisk2', 'maxbid':60, 'status':'on'},...}}
</code>
|
Если статусов не меньше, чем всех остальных элементов списков, можно сделать так:
<code>
camId = request.form.getlist('id') #список id кампаний
camName = request.form.getlist('campaign_name') # список имён кампаний
maxBid = request.form.getlist('maxbid') # список максимальных ставок для кампании
status = request.form.getlist('status') # список статусов 'on'\'off'
client = request.form['client'] # логин клиента
result = {}
result[client] = {}
result[client]["Campagins"] = []
for i in range(len(camId)):
result[client]["campagins"].append({'id':camId[i], 'name':camName[i], 'maxbid':maxBid[i], 'status':status[i]})
print(result)
</code>
Реализация наивная, возможно (и скорее всего), можно сделать лучше.
Если же, всё-таки, статусов меньше, этот код завершится ошибкой. Чтобы этого избежать, необходимо либо передавать пустые статусы, либо знать правило сопоставления определённой компании с определённым статусом (как я и писал в комментариях).
|
21,623 | Как во время исполнения Python кода скрыть командную строку?
Вопрос такой
Как во время исполнения Python кода скрыть командную строку
В смысле она в начале должна открыться
После ввода данных пользователя закрыться
PS Это не вредоносная программа. Это программа для выключения ПК по таймеру
|
По-хорошему нужно сделать нормальный оконный интерфейс. Но если очень нужно, то есть функции WinAPI (предполагаю, что у вас Windows):
<code>
FreeConsole</code> - освободить консоль
<code>
AllocConsole</code> - создать консоль
Пример использования:
Сначала устанавливаем пакет pywin32: <code>
pip install pywin32</code>
<code>
import win32console
import time
for i in range(10):
win32console.FreeConsole()
time.sleep(5)
win32console.AllocConsole()
print('Hello!', i)
time.sleep(5)
</code>
|
21,629 | Почему не создаётся сервис WIndows?
Я написал код, который превращает мою программу в службу Windows, но когда я запустил программу с помощью команды <code>
python name_file.py install</code>, она просто открыла консоль и роботает в ней. Но когда я конвертирую свою программу в exe-файл и создаю сервис через CMD, с помощю команды <code>
JUSTBOT binpath = "первый путь к name_file.exe второй путь \ name_file.py" DisplayName = "JUSTBOT" start = delayed-auto</code>. Он создал службу, и она работает, но я не могу запустить ее, и все время когда я пытаюсь её запустить оно выдает ошибку 1053. Пожалуйста, кто-нибудь, помогите мне. Я использую Python 3.7
<code>
import win32serviceutil
import win32service
import win32event
import servicemanager
import socket
import listTT
from time import sleep
import telebot
import sys
class AppServerSvc (win32serviceutil.ServiceFramework):
_svc_name_ = "JUSTBOT"
_svc_display_name_ = "JUSTBOT"
def __init__(self,args):
win32serviceutil.ServiceFramework.__init__(self,args)
self.hWaitStop = win32event.CreateEvent(None,0,0,None)
#socket.setdefaulttimeout(15)
def SvcStop(self):
self.ReportServiceStatus(win32service.SERVICE_STOP_PENDING)
win32event.SetEvent(self.hWaitStop)
def SvcRestart(self):
if servicemanager.LogMsg(servicemanager.EVENTLOG_INFORMATION_TYPE,
servicemanager.PYS_SERVICE_STARTED,
(self._svc_name_,'')):
win32serviceutil.RestartService(self._svc_name_)
self.main()
#def SvcDoRun(self):
# servicemanager.LogMsg(servicemanager.EVENTLOG_INFORMATION_TYPE,
# servicemanager.PYS_SERVICE_STARTED,
# (self._svc_name_,''))
# self.main()
def main(self):
while True:
try:
listTT.bot.polling(none_stop=True, interval=2, timeout=2)
listTT.bot.infinity_polling(True)
except Exception:
pass
except AttributeError:
pass
except ReferenceError:
pass
except telebot.apihelper.requests.exceptions.ConnectionError:
pass
except ConnectionAbortedError:
pass
except ConnectionRefusedError:
pass
except ConnectionResetError:
pass
except RuntimeError:
pass
except telebot.apihelper.requests.exceptions.ConnectTimeout:
pass
except IndexError:
pass
except telebot.apihelper.requests.exceptions.ReadTimeout:
pass
except telebot.apihelper.requests.exceptions.RetryError:
pass
except telebot.apihelper.requests.exceptions.Timeout:
pass
except telebot.apihelper.requests.exceptions.HTTPError:
pass
except RecursionError:
pass
finally:
sleep(6)
if __name__ == '__main__':
if len(sys.argv) == 1:
servicemanager.Initialize()
servicemanager.PrepareToHostSingle(AppServerSvc)
servicemanager.StartServiceCtrlDispatcher()
else:
win32serviceutil.HandleCommandLine(AppServerSvc)
</code>
|
Попробуйте так:
Открыть управление службами Windows.
Открыть свойства своей службы.
Открыть вкладку: "Вход в систему".
Настроить там вход НЕ под "Системной учетной записью". (имя пользователя начинается с <code>
.\</code>)
Еще вариант:
Добавить путь к установленному Python в системный PATH.
Судя по гуглу:
Открыть свойства "Компьютера".
Перейти на вкладку: "Дополнительно".
Выбрать "Переменные окружения".
Выбрать <code>
Path</code> и нажать "Правка".
Добавить путь к файлу <code>
exe</code> в начало.
Все сохранить и закрыть.
Возможно, перезагрузить систему.
Еще вариант:
Запуск с опцией отладки: <code>
my_service.py debug</code>
Еще вариант:
Использовать этот код.
Еще вариант:
Использовать <code>
py2exe</code> для сборки. Смотри UPDATE.
P.S.
Все эти <code>
except * pass</code>, может заменить на один?
<code>
except:
pass
</code>
Ну или на:
<code>
except (AttributeError, ReferenceError, ConnectionAbortedError, и прочие):
pass
</code>
|
21,630 | Функция сравнения символов в строке [закрыт]
Закрыт. Этот вопрос не по теме. Ответы на него в данный момент не принимаются.
Учебные задания допустимы в качестве вопросов только при условии, что вы пытались решить их самостоятельно перед тем, как задать вопрос. Пожалуйста, отредактируйте вопрос и укажите, что именно вызвало у вас трудности при решении задачи. Например, приведите код, который вы написали, пытаясь решить задачу
Закрыт 4 года назад.
Улучшить вопрос
Необходимо чтобы функция:
<code>
1) Сравнивала первую букву со второй
2) После 1,2 буквы с 3,4 буквами
3) После 1,2,3 буквы с 4,6,6 буквами
</code>
И так далее до Длина строки // 2
Буду благодарен за пример кода.
Функция принимает строку произвольного размера, например abcabc
После чего сравнивает:
<code>
1 шаг
a и b
b и c
c и a
a и b
b и c
2 шаг
ab и ca
ca и bc
3 шаг
abc и abc
</code>
|
Рекурсивное решение (UPD):
<code>
def func(string: str, k: int=1) -> None:
length = len(string)
if k > length // 2:
return
for i in range(0, length - k, k):
part_1 = string[i:][:k]
part_2 = string[i:][k:k*2]
print(f'{part_1} и {part_2}')
func(string, k+1)
if __name__ == '__main__':
func('abcabc')
</code>
stdout:
<code>
a и b
b и c
c и a
a и b
b и c
ab и ca
ca и bc
abc и abc
</code>
|
21,634 | Python, неправильно работает каскад циклов for, в чем ошибка?
Мой цикл должен накидать суммы отрицательных и положительных чисел в P[0], затем в P[1], P[2]... и так далее. Но почему то он одновременно кидает во все P (то есть одновременно в P[0], P[1], P[2]). В чем моя ошибка ведь кажется логически все верно.
<code>
С = [array([[ 2., 0., 1.],
[ 1., 2., -1.],
[ 0., -1., 2.]]), array([[ 0., 1., 0.],
[ 2., -1., 0.],
[-1., 2., 0.]]), array([[ 1., 0., 0.],
[-1., 0., -0.],
[ 2., 0., 0.]]), array([[ 0., 0., 1.],
[ 0., -0., 0.],
[ 0., 0., 1.]]), array([[ 0., 1., 1.],
[-0., 0., 2.],
[ 0., 1., 2.]]), array([[ 1., 1., 0.],
[ 0., 2., -1.],
[ 1., 2., -1.]]), array([[ 1., 0., 0.],
[ 2., -1., 0.], ....
P = [[0, 0]] * len(C)
for i in range(len(C)):
for x in range(3):
for y in range(3):
if C[i][x][y] >= 0:
P[i][0] += C[i][x][y]
if C[i][x][y] < 0:
P[i][1] += C[i][x][y]
print(P)
>>>
[[687.0, -233.0], [687.0, -233.0], [687.0, -233.0], [687.0, -233.0]...
</code>
Для тех кто не понял - элементы списка P должны иметь разные значения.
|
Вы неправильно создаете список списков.
Если делать умножением обычного списка <code>
python</code>, то вы просто дублируете ссылку на исходный массив:
<code>
a = [[0, 0]]*2
for i in a:
print(id(i))
82607176
82607176
</code>
То есть, присвоение значения любому из подсписков, автоматический присваивает это же значение его копиям.
Воспользуйтесь <code>
numpy.zeros()</code>:
<code>
import numpy as np
a = np.zeros((2, 2))
for i in a:
print(id(i))
93033856
93034336
</code>
|
21,635 | Тест производительности "операторы Python" против SymPy и numexpr
Насколько расчеты встроенными операторами Python быстрее, чем расчет по формуле <code>
SymPy</code> и <code>
numexpr</code>?
|
Как на счет использования анаболиков numexpr?
<code>
from itertools import combinations
import numpy as np
import numexpr as ne
lst = list(combinations(range(1, 23), 6))
X = np.array(lst)
formula = """(a+b)*c-(d/e)**f"""
def std_op(lst):
result = []
for i in lst:
result.append((i[0]+i[1])*i[2]-(i[3]/i[4])**i[5])
return result
def anabolics(X, formula):
d = {
"a": X[:, 0],
"b": X[:, 1],
"c": X[:, 2],
"d": X[:, 3],
"e": X[:, 4],
"f": X[:, 5],
}
return ne.evaluate(formula, d)
</code>
тесты:
<code>
In [17]: sum(std_op(lst))
Out[17]: 8083104.010504639
In [18]: anabolics(X, formula).sum()
Out[18]: 8083104.01050503
</code>
скорость:
<code>
In [19]: %timeit std_op(lst)
44.1 ms ± 1.05 ms per loop (mean ± std. dev. of 7 runs, 10 loops each)
In [20]: %timeit anabolics(X, formula)
590 µs ± 14.9 µs per loop (mean ± std. dev. of 7 runs, 1000 loops each)
</code>
вывод: <code>
numexpr</code> + <code>
numpy</code> в ~75 раз быстрее <code>
Vanilla Python</code>:
<code>
In [21]: 44.1*1000 / 590
Out[21]: 74.7457627118644
</code>
|
21,636 | Получить данные из словарей
Исходные данные - это список из словарей, в каждом словаре по два элемента:
<code>
data = [
{'symbol': 'USDRUB', 'lastPrice': '65.161315', 'startPrice': '66.254689'},
{'symbol': 'EURRUB', 'lastPrice': '71.254632', 'startPrice': '71.342689'},
{'symbol': 'GBPRUB', 'lastPrice': '99.854672', 'startPrice': '99.224289'},
{'symbol': 'CADRUB', 'lastPrice': '23.215645', 'startPrice': '23.474643'},
]
</code>
Мне нужно посчитать по формуле цены для интересующих меня пар, представленных в списке ниже:
<code>
my_pairs = [['USDRUB','GBPRUB'],['EURRUB','CADRUB']]
</code>
Нужно, например, поделить <code>
lastPrice</code> пары доллара на <code>
lastPrice</code> пары фунта, затем добавить результат в список на нулевую позицию. На первую позицию результат деления цен двух пар из второго списка. На выходе должено быть примерно так:
<code>
summ = [0.66, 3,21]
</code>
Или не считать, а просто добавить в новый список необходимые мне цены в правильной последовательности, поделить то их просто:
<code>
new_list = [[65.161315,99.854672],[71.254632,23.215645]]
</code>
У меня выходит только с одним списком из двух валют, но если два списка как в примере, то получается путаница:
<code>
newlist= []
for onedict in (data):
for pair in my_pairs:
if onedict ['symbol'] == pair[0]:
a1=(onedict ['lastPrice'])
newlist.insert(0,a1)
if onedict ['symbol'] == pair[1]:
a2=(onedict ['lastPrice'])
newlist.insert(1,a2)
print(newlist)
</code>
UPD
я добавил третий элемент в словарь и мне нужно при делении взять <code>
lastPrice</code> для первого элемента в списке и поделить на <code>
startPrice</code> второго элемента в списке.
|
Воспользуйтесь модулем Pandas:
<code>
import pandas as pd # pip install pandas
data = [
{'symbol': 'USDRUB', 'lastPrice': '65.161315'},
{'symbol': 'EURRUB', 'lastPrice': '71.254632'},
{'symbol': 'GBPRUB', 'lastPrice': '99.854672'},
# NOTE: ^^^
{'symbol': 'CADRUB', 'lastPrice': '23.215645'}]
df = pd.DataFrame(data).set_index("symbol").astype("float").T
</code>
получится такой DataFrame:
<code>
In [10]: df
Out[10]:
symbol USDRUB EURRUB GPBRUB CADRUB
lastPrice 65.161315 71.254632 99.854672 23.215645
</code>
задаем формулы расчетов:
<code>
In [14]: formulas = '\n'.join([f"{pair[0][:3]}_{pair[1][:3]} = {pair[0]} / {pair[1]}"
for pair in my_pairs])
In [15]: print(formulas)
USD_GBP = USDRUB / GBPRUB
EUR_CAD = EURRUB / CADRUB
</code>
считаем:
<code>
df = df.eval(formulas)
</code>
результат:
<code>
In [33]: df
Out[33]:
symbol USDRUB EURRUB GBPRUB CADRUB USD_GBP EUR_CAD
lastPrice 65.161315 71.254632 99.854672 23.215645 0.652562 3.069251
In [35]: summ = df.iloc[0, -len(my_pairs):].to_list()
In [36]: print(summ)
[0.652561504583381, 3.0692505851118934]
</code>
|
21,637 | Ошибка при работу с Xgboost: must be real number, not str
Помогите пжл.
Обучаю Xgboost на Time Series.
Вот мой код:
Считываем данные
<code>
data = pd.read_csv('../Portfolio/DJIA.csv',
index_col=[0], parse_dates=[0])
data.sort_index(inplace=True)
data.head(3)
</code>
Создаем признаки на основании даты
<code>
def create_features(df):
"""
Creates time series features from datetime index
"""
df['date'] = df.index
df['dayofweek'] = df['date'].dt.dayofweek
df['quarter'] = df['date'].dt.quarter
df['month'] = df['date'].dt.month
df['year'] = df['date'].dt.year
df['dayofyear'] = df['date'].dt.dayofyear
df['dayofmonth'] = df['date'].dt.day
df['weekofyear'] = df['date'].dt.weekofyear
X = df[['dayofweek','quarter','month','year',
'dayofyear','dayofmonth','weekofyear']]
return X
X, y = create_features(data), data['DJIA']
</code>
Применяем функцию к данным:
<code>
X, y = create_features(data), data['DJIA']
</code>
Обучаем бустинг
<code>
reg = xgb.XGBRegressor(n_estimators=1000)
reg.fit(X, y)
</code>
После обучения выдает ошибку:
<code>
TypeError Traceback (most recent call last)
<ipython-input-296-02a8ae37993a> in <module>
1 reg = xgb.XGBRegressor(n_estimators=1000)
----> 2 reg.fit(X, y)
~\Anaconda3\lib\site-packages\xgboost\sklearn.py in fit(self, X, y, sample_weight, eval_set, eval_metric, early_stopping_rounds, verbose, xgb_model, sample_weight_eval_set, callbacks)
358 missing=self.missing, nthread=self.n_jobs)
359 else:
--> 360 trainDmatrix = DMatrix(X, label=y, missing=self.missing, nthread=self.n_jobs)
361
362 evals_result = {}
~\Anaconda3\lib\site-packages\xgboost\core.py in __init__(self, data, label, missing, weight, silent, feature_names, feature_types, nthread)
417 self.set_label_npy2d(label)
418 else:
--> 419 self.set_label(label)
420 if weight is not None:
421 if isinstance(weight, np.ndarray):
~\Anaconda3\lib\site-packages\xgboost\core.py in set_label(self, label)
669 The label information to be set into DMatrix
670 """
--> 671 self.set_float_info('label', label)
672
673 def set_label_npy2d(self, label):
~\Anaconda3\lib\site-packages\xgboost\core.py in set_float_info(self, field, data)
590 self.set_float_info_npy2d(field, data)
591 return
--> 592 c_data = c_array(ctypes.c_float, data)
593 _check_call(_LIB.XGDMatrixSetFloatInfo(self.handle,
594 c_str(field),
~\Anaconda3\lib\site-packages\xgboost\core.py in c_array(ctype, values)
215 if isinstance(values, np.ndarray) and values.dtype.itemsize == ctypes.sizeof(ctype):
216 return (ctype * len(values)).from_buffer_copy(values)
--> 217 return (ctype * len(values))(*values)
218
219
TypeError: must be real number, not str
</code>
Я понимаю, что ошибка скорее всего в том, что на вход обучения мы подаем дату вместо цыфр. Пытался изменить значения фрейма с помощью float(), но ошибка не пропадает.
Как это исправить?
Спасибо за помощь)
Дополнительные данные:
Команда 1:
<code>
X.iloc[0]
</code>
Результат:
<code>
dayofweek 3
quarter 3
month 7
year 2009
dayofyear 204
dayofmonth 23
weekofyear 30
Name: 2009-07-23 00:00:00, dtype: int64
</code>
Команда 2:
<code>
X.dtypes
</code>
Результат:
<code>
dayofweek int64
quarter int64
month int64
year int64
dayofyear int64
dayofmonth int64
weekofyear int64
dtype: object
</code>
Команда 3:
<code>
y.iloc[0]
</code>
Результат:
<code>
'9069.29'
</code>
Команда 4:
<code>
y.dtypes
</code>
Результат:
<code>
dtype('O')
</code>
|
На мой взгляд, дело в фрейме <code>
y</code>, который имеет строковый тип.
Попробуйте так:
<code>
X, y = create_features(data), data['DJIA'].astype(float)
</code>
|
21,638 | Скачивание большого объема видеороликов
Есть несколько тысяч ссылок на видео в Интернете. Необходимо скачать из все максимально быстро.
Ранее использовал библиотеку requests, однако скачивание длилось очень долго (70 Кб — средний вес файла, а среднее время скачивание 3 секунды, то есть около 25 Кб/с, хотя скорость интернета больше мегабита в секунду). В диспетчере задач график скорости Wi-Fi скачет (то 0, то на долю секунды 1,4 Мб/с).
Как скачать их все с помощью программы Python? Может есть способ скачивать их одновременно?
P.S.Слышал про библиотеку aiohttp, но примеров работы для моего случая не нашел.
|
Вот это немного поможет.
<code>
import threading
import requests
import shutil
url_list= [] # Тут хранятся ссылки на скачивание
def Thread(my_funk):
def wrapper(*args, **kwargs):
my_thread = threading.Thread(target=my_funk, args=args, kwargs=kwargs)
my_thread.start()
return wrapper
@Thread # теперь функция будет запускается в новом потоке
def download(url):
r = requests.get(url, stream=True)
if r.status_code == 200:
with open(r'E:\Python\exampeles\file' + url , 'wb') as f:
r.raw.decode_content = True
shutil.copyfileobj(r.raw, f)
for url in url_list: #Теперь список запустит почти ОДНОВРЕМЕННО много функций для скачивания
download(url)
</code>
|
21,644 | Как правильно вызывать метод select из модуля selectors на windows?
Я написал немного кода для обработки подключений, но похоже что часть кода является платформозависимой и я не знаю как это исправить. Сам код:
<code>
import socket
import selectors
selector = selectors.DefaultSelector()
def server():
server_socket = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
server_socket.setsockopt(socket.SOL_SOCKET, socket.SO_REUSEADDR, 1)
server_socket.bind(('localhost', 5000))
server_socket.listen()
selector.register(fileobj=server_socket, events=selectors.EVENT_READ, data=accept_connetcion)
def accept_connetcion(server_socket):
client_socket, addr = server_socket.accept()
print('Connection from', addr)
selector.register(fileobj=client_socket, events=selectors.EVENT_READ, data=send_message)
def send_message(client_socket):
request = client_socket.recv(4096)
if request:
response = 'Hello world\n'.encode()
client_socket.send(response)
else:
selector.unregister(client_socket)
client_socket.close()
client_socket.close()
def event_loop():
while 8599:
events = selector.select(timeout=0)
for key, _ in events:
callback = key.data
callback(key.fileobj)
if __name__ == '__main__':
server()
event_loop()
</code>
В общем-то первая часть кода работает, и при подключении через netcat выводится: "Connection from ('127.0.0.1', 22310)". Но при выводе "hello world" выдаётся следующая ошибка с указанием на строку
<code>
events = selector.select(timeout=0)
</code>
OSError: [WinError 10038] Сделана попытка выполнить операцию на объекте, не являющемся сокетом.
Как это исправить?
|
У вас в конце <code>
send_message</code> сокет закрывается. Причём, если из сокета данные были предварительно получены, то закрывается он без удаления из селектора, а если данные получены не были, то закрывается дважды. То есть в любом случае возникнет ошибка.
P.S. Использовать нулевой таймаут - плохая идея, это приводят к повышенной нагрузке на процессор.
|
21,645 | Несовпадение размеров матриц при обучении предиктивной модели и предсказания
Имеется 2 pd.frame (Почему RF модель показала точность 0%?
Что делать, если при преобразовании Pd.get_dummies нарушает соответствие размерности матриц(изначально фреймы равны) ?
попытка предсказания:
<code>
import pandas as pd
import matplotlib.pyplot as plt
import seaborn as sns
import numpy as np
from scipy.stats import norm
from sklearn.preprocessing import StandardScaler
from scipy import stats
import warnings
warnings.filterwarnings('ignore')
%matplotlib inline
from sklearn.model_selection import train_test_split
from sklearn import preprocessing
from sklearn import linear_model
df_train = pd.read_csv('D:\Kaggle\House prices/train.csv')
df_test = pd.read_csv('D:\Kaggle\House prices/test.csv')
total = df_train.isnull().sum().sort_values(ascending=False)
percent = (df_train.isnull().sum()/df_train.isnull().count()).sort_values(ascending=False)
missing_data_train = pd.concat([total, percent], axis=1, keys=['Total', 'Percent'])
df_train = df_train.drop((missing_data_train[missing_data_train['Total'] > 1]).index,1)
df_train = df_train.drop(df_train.loc[df_train['Electrical'].isnull()].index)
df_test = df_test.drop((missing_data_train[missing_data_train['Total'] > 1]).index,1)
df_test = df_test.drop(df_test.loc[df_test['Electrical'].isnull()].index)
saleprice_scaled = StandardScaler().fit_transform(df_train['SalePrice'][:,np.newaxis]);
df_test.fillna(method='ffill', inplace=True)
df_test = df_test.astype(int, errors='ignore')
df_train.sort_values(by = 'GrLivArea', ascending = False)[:2]
df_train = df_train.drop(df_train[df_train['Id'] == 1299].index)
df_train = df_train.drop(df_train[df_train['Id'] == 524].index)
df_train['SalePrice'] = np.log(df_train['SalePrice'])
data_features = df_train.drop("Id", axis = 1)
X, y = data_features.drop (["SalePrice"], axis = 1), df_train["SalePrice"]
FF = pd.get_dummies(X)
Xnp = np.array(FF)
ynp = np.array(y)
X_train, X_test, y_train, y_test = train_test_split (Xnp, ynp, test_size=0.5)
lab_enc = preprocessing.LabelEncoder()
tsy = lab_enc.fit_transform(y_train)
data_features2
reg = linear_model.Ridge(alpha=.5)
pred=reg.fit(X_train,y_train)
data_features2 = df_test.drop("Id", axis = 1)
FF2 = pd.get_dummies(data_features2)
FF2
Xnp2 = np.array(FF2)
an=pred.predict(Xnp2)
ValueError: shapes (1459,205) and (219,) not aligned: 205 (dim 1) != 219 (dim 0)
</code>
|
Причина ошибки лежит в природе алгоритма <code>
One Hot Encoding</code>, который используется в <code>
pd.get_dummies()</code>. А именно в том, что число результирующих столбцов зависит от набора уникальных строковых значений.
Воспроизведение ошибки:
<code>
In [89]: train = pd.DataFrame({"col1": ["a", "b", "c"], "col2": ["aa", "bb", "cc"]})
In [90]: test = pd.DataFrame({"col1": ["a", "c"], "col2": ["aa", "cc"]})
In [91]: train
Out[91]:
col1 col2
0 a aa
1 b bb
2 c cc
In [92]: test
Out[92]:
col1 col2
0 a aa
1 c cc
In [93]: pd.get_dummies(train)
Out[93]:
col1_a col1_b col1_c col2_aa col2_bb col2_cc
0 1 0 0 1 0 0
1 0 1 0 0 1 0
2 0 0 1 0 0 1
In [94]: pd.get_dummies(test)
Out[94]:
col1_a col1_c col2_aa col2_cc
0 1 0 1 0
1 0 1 0 1
</code>
Как видно из примера, после <code>
pd.get_dummies()</code>, число столбцов в <code>
pd.get_dummies(test)</code> - 4, а в <code>
pd.get_dummies(train)</code> - 6.
Тоже самое для вашего датасета:
сначала выберем только строковые (<code>
dtype == "object"</code>) столбцы:
<code>
In [95]: cols = df_train.columns[df_train.dtypes.eq("object")]
In [96]: print(cols)
Index(['MSZoning', 'Street', 'LotShape', 'LandContour', 'Utilities', 'LotConfig', 'LandSlope', 'Neighborhood',
'Condition1', 'Condition2', 'BldgType', 'HouseStyle', 'RoofStyle', 'RoofMatl', 'Exterior1st', 'Exterior2nd',
'ExterQual', 'ExterCond', 'Foundation', 'Heating', 'HeatingQC', 'CentralAir', 'Electrical', 'KitchenQual',
'Functional', 'PavedDrive', 'SaleType', 'SaleCondition'],
dtype='object')
</code>
делаем <code>
One Hot Encoding</code> / <code>
DUMMY</code> encoding:
<code>
In [97]: train_dummies = pd.get_dummies(df_train[cols])
In [98]: test_dummies = pd.get_dummies(df_test[cols])
</code>
число столбцов датасетов после кодирования не совпадает:
<code>
In [99]: train_dummies.shape
Out[99]: (1457, 186)
In [100]: test_dummies.shape
Out[100]: (1459, 172)
</code>
столбцы отсутствующие в <code>
test_dummies</code>:
<code>
In [101]: train_dummies.columns.difference(test_dummies.columns)
Out[101]:
Index(['Condition2_RRAe', 'Condition2_RRAn', 'Condition2_RRNn', 'Electrical_Mix', 'Exterior1st_ImStucc',
'Exterior1st_Stone', 'Exterior2nd_Other', 'Heating_Floor', 'Heating_OthW', 'HouseStyle_2.5Fin',
'RoofMatl_Membran', 'RoofMatl_Metal', 'RoofMatl_Roll', 'Utilities_NoSeWa'],
dtype='object')
</code>
|
21,646 | сохранение в текстовый файл
Сохраняю данные в файл. Вот кусок кода:
<code>
def wifi_connect(ssid, psk):
f.write(' ssid="' + str(ssid) + '"\n')
f.write(' psk="' + str(psk) + '"\n')
f.write('}\n')
f.close()
</code>
В итоге файл выглядит так:
<code>
ssid="b'value1'"
psk="b'value2'"
</code>
А мне нужно:
<code>
ssid="value1"
psk="value2"
</code>
Как это можно сделать и в чем мой косяк?
|
Это байтовая строка, её необходимо декодировать:
<code>
f.write(' ssid="' + ssid.decode("utf-8") + '"\n')
f.write(' psk="' + psk.decode("utf-8") + '"\n')
</code>
|
21,647 | Делаю django ЧПУ с помощью slug но выдает ошибку
Я хочу чтобы url выводилося названия статьи типо <code>
programs/kak-vzlomat-jopu
</code> или как то так. И еще настораживает то что как рагумент берет <code>
slug : 13</code> а это вообще из другой колонки в database
<code>
Traceback:
File "D:\Users\MAestro\AppData\Local\Programs\Python\Python37-32\lib\site-packages\django\core\handlers\exception.py" in inner
34. response = get_response(request)
File "D:\Users\MAestro\AppData\Local\Programs\Python\Python37-32\lib\site-packages\django\core\handlers\base.py" in _get_response
145. response = self.process_exception_by_middleware(e, request)
File "D:\Users\MAestro\AppData\Local\Programs\Python\Python37-32\lib\site-packages\django\core\handlers\base.py" in _get_response
143. response = response.render()
File "D:\Users\MAestro\AppData\Local\Programs\Python\Python37-32\lib\site-packages\django\template\response.py" in render
106. self.content = self.rendered_content
File "D:\Users\MAestro\AppData\Local\Programs\Python\Python37-32\lib\site-packages\django\template\response.py" in rendered_content
83. content = template.render(context, self._request)
File "D:\Users\MAestro\AppData\Local\Programs\Python\Python37-32\lib\site-packages\django\template\backends\django.py" in render
61. return self.template.render(context)
File "D:\Users\MAestro\AppData\Local\Programs\Python\Python37-32\lib\site-packages\django\template\base.py" in render
171. return self._render(context)
File "D:\Users\MAestro\AppData\Local\Programs\Python\Python37-32\lib\site-packages\django\template\base.py" in _render
163. return self.nodelist.render(context)
File "D:\Users\MAestro\AppData\Local\Programs\Python\Python37-32\lib\site-packages\django\template\base.py" in render
937. bit = node.render_annotated(context)
File "D:\Users\MAestro\AppData\Local\Programs\Python\Python37-32\lib\site-packages\django\template\base.py" in render_annotated
904. return self.render(context)
File "D:\Users\MAestro\AppData\Local\Programs\Python\Python37-32\lib\site-packages\django\template\loader_tags.py" in render
150. return compiled_parent._render(context)
File "D:\Users\MAestro\AppData\Local\Programs\Python\Python37-32\lib\site-packages\django\template\base.py" in _render
163. return self.nodelist.render(context)
File "D:\Users\MAestro\AppData\Local\Programs\Python\Python37-32\lib\site-packages\django\template\base.py" in render
937. bit = node.render_annotated(context)
File "D:\Users\MAestro\AppData\Local\Programs\Python\Python37-32\lib\site-packages\django\template\base.py" in render_annotated
904. return self.render(context)
File "D:\Users\MAestro\AppData\Local\Programs\Python\Python37-32\lib\site-packages\django\template\loader_tags.py" in render
62. result = block.nodelist.render(context)
File "D:\Users\MAestro\AppData\Local\Programs\Python\Python37-32\lib\site-packages\django\template\base.py" in render
937. bit = node.render_annotated(context)
File "D:\Users\MAestro\AppData\Local\Programs\Python\Python37-32\lib\site-packages\django\template\base.py" in render_annotated
904. return self.render(context)
File "D:\Users\MAestro\AppData\Local\Programs\Python\Python37-32\lib\site-packages\django\template\defaulttags.py" in render
209. nodelist.append(node.render_annotated(context))
File "D:\Users\MAestro\AppData\Local\Programs\Python\Python37-32\lib\site-packages\django\template\base.py" in render_annotated
904. return self.render(context)
File "D:\Users\MAestro\AppData\Local\Programs\Python\Python37-32\lib\site-packages\django\template\defaulttags.py" in render
443. url = reverse(view_name, args=args, kwargs=kwargs, current_app=current_app)
File "D:\Users\MAestro\AppData\Local\Programs\Python\Python37-32\lib\site-packages\django\urls\base.py" in reverse
90. return iri_to_uri(resolver._reverse_with_prefix(view, prefix, *args, **kwargs))
File "D:\Users\MAestro\AppData\Local\Programs\Python\Python37-32\lib\site-packages\django\urls\resolvers.py" in _reverse_with_prefix
668. raise NoReverseMatch(msg)
Exception Type: NoReverseMatch at /programms/
Exception Value: Reverse for 'article_detailProgramms' with keyword arguments '{'slug': '13'}' not found. 1 pattern(s) tried: ['programms/(?P<slugProg>[-a-zA-Z0-9_]+)/$']
</code>
views.py
<code>
class ProgramsList(ListView):
model = Programs
template_name = 'programs/programms.html'
paginate_by = 6
def get_context_data(self, **kwargs):
context = super(ProgramsList, self).get_context_data(**kwargs)
list_exam = Programs.objects.all()
paginator = Paginator(list_exam, self.paginate_by)
page = self.request.GET.get('page')
try:
file_exams = paginator.page(page)
except PageNotAnInteger:
file_exams = paginator.page(1)
except EmptyPage:
file_exams = paginator.page(paginator.num_pages)
context['articles_top'] = Programs.objects.all().order_by('?')[:6]
context['list_exams'] = file_exams
return context
def ProgramsDetail(request, slugProg):
Articles.objects.filter(slug=slugProg)
programm_details = Articles.objects.filter(slug=slugProg).first()
top_art = Articles.objects.all().order_by('-view')[:10]
top_prog = Programs.objects.all().order_by('?')[:10]
return render(
request,
'programs/programm.html',
{
'programm_details': programm_details,
'top_art':top_art,
'top_prog':top_prog,
}
)
</code>
urls.py
<code>
urlpatterns=[
path('', ProgramsList.as_view(), name='articles_listProgramms'),
path('<slug:slugProg>/', views.ProgramsDetail, name='article_detailProgramms'),
path('searchProgramm/', views.post_search, name='post_searchProgramm'),
]+ static(settings.MEDIA_URL, document_root=settings.MEDIA_ROOT)
class Programs(models.Model):
title = models.CharField(max_length=200, verbose_name='Название Программы')
storyPrograms = models.TextField(default='' , verbose_name='Расширенное описание, функционал и т.д')
previewPrograms = models.ImageField(upload_to='' , verbose_name='Каритинка 260х180')
slugProg = AutoSlugField(populate_from='title')
languegesPrograms = models.TextField(default='' , verbose_name='языки которые поддерживает программа')
demandPrograms = models.TextField(default='' , verbose_name='Требования')
memoryPrograms = models.TextField(default='' , verbose_name='Место, на жестком диске')
uploadPrograms = models.TextField(default='' , verbose_name='Сыллка с установкой')
downlandCount = models.IntegerField(default=0)
date = models.DateTimeField(auto_now=True)
class Meta:
verbose_name = 'Программы'
verbose_name_plural = 'Программы'
def __str__(self):
return self.title
</code>
в шаблоне передаю slug в url вот так
<code>
<a href="{% url 'article_detail' slug=top.slugProg %}">
</code>
|
Как пример мой вариант. Все лишнее удалено )
model.py (обрати внимание на <code>
get_absolute_url</code>)
<code>
class Post(models.Model):
title = models.CharField(max_length=120,
verbose_name='Title')
slug = models.SlugField(unique=True, verbose_name='URL')
def __unicode__(self):
return self.title
def __str__(self):
return self.title
def get_absolute_url(self):
return "/post/%s/" % (self.slug)
</code>
url.py (попробуй изменить адрес на /категория/slug были на этом как то проблемы)
<code>
path('post/<slug:slug>/', views.DetailPost.as_view(), name='detail'),
</code>
view.py попробуй через CBV.
<code>
class DetailPost(DetailView):
model = Post
template_name = 'detail.html'
</code>
в admin.py строка <code>
prepopulated_fields = {'slug': ('title',)}</code> позволяет сделать автозаполнение поля slug на основе title
|
21,649 | Всплывает ошибка ValueError: invalid literal for int() with base 10:
Пишу вот такой код, довольно простой, я начинающий. Мне надо выводить числа определенного условия из массива.
Использовать надо функцию, функцию задать через input, использовать генератор.
<code>
def t(s):
x = [i for i in s if i % 3 == 0]
print(x)
r = int(input("Введите список"))
print(t(r))
</code>
|
<code>
def t(s):
x = [i for i in s if i % 3 == 0]
print(x)
r = map(int, input("Введите список: ").split())
Введите список: 1 2 3 6 7 8 9
print(t(r))
[3, 6, 9]
</code>
|
21,651 | Перевод float в int
Имеется фрейм <code>
a*b</code>. Фрейм состоит их <code>
float</code>, <code>
object</code>, <code>
int</code>. Есть объекты <code>
NaN</code>.
Под "а" в том числе идет нумерация.
Соответственно "b" определяют наименования колонок.
Каким конструктом перевести ВСЕ <code>
float</code> переменные фрейма в <code>
int</code>, при этом НЕ удаляя ячеек ?
|
Два способа. Разница в колонке №4.
<code>
import itertools as itr
import pandas as pd
df = pd.DataFrame(itr.combinations([1.1, 2.2, 3.3, 4.4, 5.5, 'a', 'b'], 6))
print(df.astype(int, errors='ignore'))
print()
print(df.applymap(lambda x: int(x) if isinstance(x, float) else x))
0 1 2 3 4 5
0 1 2 3 4 5.5 a
1 1 2 3 4 5.5 b
2 1 2 3 4 a b
3 1 2 3 5 a b
4 1 2 4 5 a b
5 1 3 4 5 a b
6 2 3 4 5 a b
0 1 2 3 4 5
0 1 2 3 4 5 a
1 1 2 3 4 5 b
2 1 2 3 4 a b
3 1 2 3 5 a b
4 1 2 4 5 a b
5 1 3 4 5 a b
6 2 3 4 5 a b
</code>
<code>
NaN</code> имеет тип <code>
float64</code>. Чтобы получить <code>
int</code> можно пойти двумя путями.
Конвертировать столбец в <code>
int64</code>.
Конвертировать <code>
NaN</code> в число типа <code>
int</code>.
Пример:
<code>
import itertools as itr
import pandas as pd
df = pd.DataFrame(itr.combinations([2.2, 3.3, pd.np.NaN, 4.4, 5.5, 'a', 'b'], 6))
print(df.applymap(
lambda x: int(x) if not pd.isna(x) and isinstance(x, float) else x
).astype({1: pd.Int64Dtype(), 2: 'Int64'}))
print()
print(df.fillna(0).applymap(lambda x: int(x) if isinstance(x, float) else x))
0 1 2 3 4 5
0 2 3 NaN 4 5 a
1 2 3 NaN 4 5 b
2 2 3 NaN 4 a b
3 2 3 NaN 5 a b
4 2 3 4 5 a b
5 2 NaN 4 5 a b
6 3 NaN 4 5 a b
0 1 2 3 4 5
0 2 3 0 4 5 a
1 2 3 0 4 5 b
2 2 3 0 4 a b
3 2 3 0 5 a b
4 2 3 4 5 a b
5 2 0 4 5 a b
6 3 0 4 5 a b
</code>
|
21,652 | Утечка памяти в Python `threading`
При реализации многопоточности, используя <code>
threading.Thread</code> наблюдается утечка памяти. У кого-нибудь есть идеи, как с этим бороться?
<code>
Python 3.7.3 [GCC 8.3.0] linux Debian Stable</code>
Тестовый код:
<code>
# Аккуратно!!! Течет память!!!
import itertools as itr
import threading
from queue import Queue
import gc
class SimpleThread(threading.Thread):
def __init__(self, name, queue, result):
super().__init__()
self.queue = queue
self.name = name
self.result = result
def run(self):
while True:
item = self.queue.get()
self.result.append(set(item))
self.queue.task_done()
class Calculate:
def __init__(self, thread_cls, threads=16):
self.result = []
self.queue = Queue()
for i in range(threads):
t = thread_cls(f'№{i}',
self.queue, self.result)
t.setDaemon(True)
t.start()
def __call__(self, input_array):
for i in input_array:
self.queue.put(i)
self.queue.join()
return self
arr = list(itr.combinations(range(1, 30), 6))
while True:
calc = Calculate(SimpleThread)
calc(data)
i = input('Нажмите `q` для выхода, или `Enter` для продолжения:')
del calc.queue, calc.result, calc
gc.collect()
if i == 'q':
break
</code>
|
Необходимо добавить способ остановки потоков, иначе у вас создаются потоки и остаются жить до завершения всего приложения. При этом каждый поток ссылается на очередь, тем самым не давая gc очистить память.
При этом принудительно gc.collect не надо вызывать.
Сильно не меняя ваш код, можно сделать так:
<code>
import itertools as itr
import threading
from queue import Queue, Empty
import time
import gc
class SimpleThread(threading.Thread):
count = 0
def __init__(self, name, queue, result):
super().__init__()
SimpleThread.count += 1
self.queue = queue
self.name = name
self.result = result
self.stop = False
def run(self):
while not self.stop:
try:
item = self.queue.get_nowait()
self.result.append(set(item))
self.queue.task_done()
except Empty:
time.sleep(0.1)
SimpleThread.count -= 1
class Calculate:
def __init__(self, thread_cls, nthreads=16):
self.result = []
self.queue = Queue()
self.threads = []
for i in range(nthreads):
t = thread_cls(f'№{i}',
self.queue, self.result)
t.setDaemon(True)
t.start()
self.threads.append(t)
def __call__(self, input_array):
for i in input_array:
self.queue.put(i)
self.queue.join()
return self
def stop(self):
for t in self.threads:
t.stop = True
t.join()
arr = list(itr.combinations(range(1, 30), 6))
while True:
calc = Calculate(SimpleThread)
calc(arr)
calc.stop() # Если закоментировать будет утечка памяти.
i = input('Нажмите `q` для выхода, или `Enter` для продолжения:')
del calc.queue, calc.result, calc
print("Threads = ", SimpleThread.count)
gc.collect()
if i == 'q':
break
</code>
|
21,653 | Проблема в работе python 3
Вчера захожу в командную строку в windows 7 (с помощью нее обычно запускаю файлы в python 3). Пишу "python" и cmd пишет, мол ""python" не является внутренней или внешней командой, исполняемой программой или пакетным файлом", до этого ставил галочку "add to path". Ладно, решил переустановить его. Сделал это, все работало хорошо. Сегодня та же ситуация. Даже если просто перезагрузить пк получается то же самое. Версия python 3.7.4. Помогите! Что делать?
|
Сейчас все работает хорошо. У меня был скачан еще один терминал Hyper, я его удалил, прочистил все остаточные файлы с помощью Ccleaner. Переустановил python в кастомный path, вроде все ок.
|
21,654 | Как быстрее применить быструю функцию к длинному списку? В один поток, или в несколько?
Есть простая и быстрая функция, например: <code>
set()</code>, и длинный список, например: <code>
list(itr.combinations(range(1, 30), 6))</code>.
Как быстрее применить функцию к каждой строке списка, в один или несколько потоков?
Вопрос является частью ответа на: Переделка стандартного цикла for для поддержки параллельной обработки данных
|
Тест однопоточной обработки и многопоточного <code>
map</code>.
<code>
from multiprocessing.dummy import Pool
from timeit import default_timer as timer
import itertools as itr
import gc
data = list(itr.combinations(range(1, 30), 6))
def classic_map():
return list(map(set, data))
def multithread_map():
pool = Pool(16) # Кол-во потоков == кол-ву потоков CPU.
return pool.map(set, data)
for ex in (classic_map, multithread_map):
time_start = timer()
ex()
time_delta = timer() - time_start
print(ex.__name__, time_delta)
del ex
gc.collect()
</code>
Результат:
<code>
classic_map 0.7905314989574254
multithread_map 0.8719341289252043
</code>
Тест модуля threading:
<code>
from timeit import default_timer as timer
import itertools as itr
import threading
from queue import Queue
import gc
class Thread_ManyBatch(threading.Thread):
def __init__(self, name, queue, result):
super().__init__()
self.queue = queue
self.name = name
self.result = result
self.stop = False
def run(self):
while not self.stop:
item = self.queue.get()
for i in item:
self.result.append(set(i))
self.queue.task_done()
class Calculate:
def __init__(self, threads):
self.result = []
self.queue = Queue()
self.threads = []
for i in range(threads):
t = Thread_ManyBatch(f'№{i}',
self.queue, self.result)
t.setDaemon(True)
t.start()
self.threads.append(t)
def __call__(self, input_array):
for i in input_array:
self.queue.put(i)
self.queue.join()
return self
def __del__(self):
for t in self.threads:
t.stop = True
for _ in self.threads:
self.queue.put([])
def run_test(t, b):
calc = Calculate(t)
data = [arr[i:i+b] for i in range(0, len(arr), b)]
time_start = timer()
result = calc(data).result
time_delta = timer() - time_start
print(f'(Thread) Потоков: {t} Блок: {b} Время: {time_delta}')
del data, result, calc
# Мой CPU имеет 16 потоков.
arr = list(itr.combinations(range(1, 30), 6))
conditions = [
{'threads': 4, 'batch': 64},
{'threads': 8, 'batch': 64},
{'threads': 16, 'batch': 64},
{'threads': 32, 'batch': 64},
{'threads': 64, 'batch': 64},
{'threads': 16, 'batch': 16},
{'threads': 16, 'batch': 32},
{'threads': 16, 'batch': 64},
{'threads': 16, 'batch': 128},
{'threads': 16, 'batch': len(arr)},
{'threads': 16, 'batch': len(arr)//4},
{'threads': 16, 'batch': len(arr)//8},
{'threads': 16, 'batch': len(arr)//16},
{'threads': 16, 'batch': len(arr)//32},
{'threads': 16, 'batch': len(arr)//64},
{'threads': 16, 'batch': len(arr)//128},
{'threads': 16, 'batch': len(arr)//256},
{'threads': 16, 'batch': len(arr)//512},
{'threads': 32, 'batch': len(arr)//512},
]
for cond in conditions:
t = cond['threads']
b = cond['batch']
gc.collect()
run_test(t, b)
</code>
Результат:
<code>
(Thread) Потоков: 4 Блок: 64 Время: 1.3617786209797487
(Thread) Потоков: 8 Блок: 64 Время: 1.3240357339382172
(Thread) Потоков: 16 Блок: 64 Время: 1.2864610340911895
(Thread) Потоков: 32 Блок: 64 Время: 1.2982085599796847
(Thread) Потоков: 64 Блок: 64 Время: 1.3388550870586187
# Обратите внимание ^ Лучшее кол-во потоков = кол-ву потоков моего CPU (16).
(Thread) Потоков: 16 Блок: 16 Время: 2.04451086896006
(Thread) Потоков: 16 Блок: 32 Время: 1.6462758219568059
(Thread) Потоков: 16 Блок: 64 Время: 1.3170949750347063
(Thread) Потоков: 16 Блок: 128 Время: 1.2290826480602846
# Обратите внимание ^ Увеличение размера блока улучшает время.
(Thread) Потоков: 16 Блок: 475020 Время: 0.8684073160402477
# Обратите внимание ^ Размер блока = кол-ву элементов списка.
# По сути мы реализовали работу в один поток.
(Thread) Потоков: 16 Блок: 118755 Время: 1.0302920539397746
(Thread) Потоков: 16 Блок: 59377 Время: 1.0756338470382616
(Thread) Потоков: 16 Блок: 29688 Время: 1.0272350820014253
(Thread) Потоков: 16 Блок: 14844 Время: 0.9970859980676323
(Thread) Потоков: 16 Блок: 7422 Время: 1.0095931380055845
(Thread) Потоков: 16 Блок: 3711 Время: 0.9970878609456122
(Thread) Потоков: 16 Блок: 1855 Время: 1.02392076398246
(Thread) Потоков: 16 Блок: 927 Время: 1.1156460139900446
(Thread) Потоков: 32 Блок: 927 Время: 1.0031342359725386
# Обратите внимание ^ Уменьшение размера блока нам ничего не дает.
</code>
Итог:
Самый быстрый способ: классический однопоточный перебор <code>
list</code>.
Кол-во потоков должно равняться кол-ву потоков CPU.
Деление на блоки ухудшает время.
<code>
multiprocessing.dummy.Pool</code> практически аналогичен <code>
threading</code>.
Почему так?
Все дело в том, что узким местом тут является доступ к памяти. Процессорного времени, необходимого для выполнения <code>
set()</code>, требуется слишком мало, чтобы полностью загрузить даже один поток моего процессора. В результате, хоть в один поток, хоть в 16 потоков, мой процессор простаивает ожидая очередной элемент списка из памяти.
Зачем тогда многопоточность?
Для вычислений. Данных может быть не много, но "математических" операций над каждым элементом надо сделать много.
Когда узкое место "ждет". Например получение данных из сети. Пока один поток ждет во время установки соединения, другой уже качает. Более того, пока один поток качает, другой уже обрабатывает полученные данные. Или пока один поток ждет пользователя, другой вычисляет в фоне. Но это все уже к асинхронности.
Почему у вас могут быть другие результаты этих тестов?
Слабый процессор, быстрый доступ к памяти. Узким местом на вашей системе оказался процессор, а не доступ к памяти. Еще стоит обратить внимание на фоновую нагрузку. Ведь этот тест не единственная работающая программа на вашей системе. Еще обратите внимание на то, что если фоновая нагрузка высокая, то большее кол-во потоков будет чаще получать управление от планировщика системы.
|
21,655 | Удаление строки sqlite3
У меня есть таблица и две функции - для записи и удаление строки. Последняя не работает. Как её починить?
<code>
import sqlite3
connect = sqlite3.connect('filname.db', check_same_thread=False)
cursor = connect.cursor()
# cursor.execute('''CREATE TABLE users ('date', 'username', 'user_id')''')
def add_user(date, username, user_id):
cursor.execute('''INSERT INTO users VALUES (?, ?, ?)''', (date, username, user_id))
connect.commit()
connect.close()
def delete_user(user_id): # FIX IT
cursor.execute('''DELETE FROM users WHERE user_id = ?''', (user_id))
connect.commit()
connect.close()
</code>
|
В качестве параметров ожидается кортеж, поэтому замените:
<code>
(user_id)
</code>
на:
<code>
(user_id,)
</code>
PS следующая команда поможет разобраться:
<code>
print(type((user_id)))
</code>
|
21,656 | Как распарсить диалог?
Есть html файл с диалогом двух пользователей. Как можно распарсить его, что бы на выходе получился json содержащий вопрос абонента А, ответ абонента Б. Примерно так
<code>
{
"абонент а сказал": ["привет"],
"абонент б ответил": ["пока"]
}
</code>
Пример html разметки
<code>
<!DOCTYPE html>
<html>
<head>
<meta charset="utf-8"/>
<title>Exported Data</title>
<meta content="width=device-width, initial-scale=1.0" name="viewport"/>
<link href="css/style.css" rel="stylesheet"/>
<script src="js/script.js" type="text/javascript">
</script>
</head>
<body onload="CheckLocation();">
<div class="page_wrap">
<div class="page_header">
<div class="content">
<div class="text bold">
Deleted Account
</div>
</div>
</div>
<div class="page_body chat_page">
<div class="history">
<div class="message service" id="message-1">
<div class="body details">
16 May 2018
</div>
</div>
<div class="message default clearfix" id="message21365">
<div class="pull_left userpic_wrap">
<div class="userpic userpic2" style="width: 42px; height: 42px">
<div class="initials" style="line-height: 42px">
абонент а
</div>
</div>
</div>
<div class="body">
<div class="pull_right date details" title="16.05.2018 20:21:39">
20:21
</div>
<div class="from_name">
абонент а
</div>
<div class="text">
ты?
</div>
</div>
</div>
<div class="message default clearfix" id="message21366">
<div class="pull_left userpic_wrap">
<div class="userpic userpic7" style="width: 42px; height: 42px">
<div class="initials" style="line-height: 42px">
</div>
</div>
</div>
<div class="body">
<div class="pull_right date details" title="16.05.2018 20:21:54">
20:21
</div>
<div class="from_name">
Deleted Account
</div>
<div class="text">
Я
</div>
</div>
</div>
<div class="message default clearfix joined" id="message21367">
<div class="body">
<div class="pull_right date details" title="16.05.2018 20:22:01">
20:22
</div>
<div class="text">
а может ты?
</div>
</div>
</div>
<div class="message default clearfix joined" id="message21368">
<div class="body">
<div class="pull_right date details" title="16.05.2018 20:22:02">
20:22
</div>
<div class="text">
а?
</div>
</div>
</div>
<div class="message default clearfix" id="message21369">
<div class="pull_left userpic_wrap">
<div class="userpic userpic2" style="width: 42px; height: 42px">
<div class="initials" style="line-height: 42px">
абонент а
</div>
</div>
</div>
<div class="body">
<div class="pull_right date details" title="16.05.2018 20:22:24">
20:22
</div>
<div class="from_name">
абонент а
</div>
<div class="text">
не
</div>
</div>
</div>
</code>
Проблема заключается в том, что здесь нет такого формата <code>
имя1: сообщение имя2: сообщение</code>. Тут после <code>
имя1</code> может быть 10 сообщений. Я сначала пробовал получить два масивал, один с именами другой с сообщениями а потом просто объединить их, но исходя из описаной выше проблемы, сообщений получается больше чем имен. Как быть в таком случае?
пример результата на основе html
<code>
{
"абонент а сказал": ["ты?"],
"абонент б ответил": ["я а может ты? а?"]
},{
"абонент а сказал": ["не"],
"абонент б ответил": ["тут сл. сообщение"]
}
</code>
|
"<code>
Json</code>", который Вы привели, как пример ожидаемого результата, не валиден, поэтому я не стал его придерживаться и просто спарсил необходимые Вам данные, оставив задачу их форматирования и отображения на Вас.
К тому же, в <code>
HTML</code> нет никакого намёка на строку <code>
абонент б</code>.
Видимо, Вы имели в виду строки из <code>
<div class="from_name">...</div></code>, поэтому я и брал их.
Пример:
<code>
from bs4 import BeautifulSoup
import re
def parse(html: str) -> list:
soup = BeautifulSoup(html, 'lxml')
res = []
messages = soup.find_all('div', re.compile(r'message default'))
for message in messages:
tmp_from_name = message.find('div', {'class': 'from_name'})
if tmp_from_name is not None:
from_name = tmp_from_name.getText().strip()
text = message.find('div', {'class': 'text'}).getText().strip()
res.append({from_name: text})
return res
if __name__ == '__main__':
with open('index.html', encoding='UTF-8') as f:
html = f.read()
res = parse(html)
print(res)
</code>
stdout:
<code>
[{'абонент а': 'ты?'}, {'Deleted Account': 'Я'}, {'Deleted Account': 'а может ты?'}, {'Deleted Account': 'а?'}, {'абонент а': 'не'}]
</code>
|
21,657 | Быстрый способ применить простую функцию к длинному списку
Есть простая и быстрая функция, например: <code>
set()</code>, и длинный список, например: <code>
list(itr.combinations(range(1, 30), 6))</code>.
Не принимая в расчет время, потраченное на конвертирование исходных данных в другой тип объекта, в случае необходимости.
Какой самый быстрый способ применить функцию к каждой строке списка?
Вопрос является частью ответа на: Переделка стандартного цикла for для поддержки параллельной обработки данных
|
Следующий код позволит измерить скорость применения функции к <code>
list</code>, <code>
np.array</code>, <code>
pd.DataFrame</code>, <code>
deque</code>.
<code>
import itertools as itr
from collections import deque
from multiprocessing.dummy import Pool
import numpy as np
import pandas as pd
# Без вызова сборщика мусора,
# результат зависит от очередности вызовов.
import gc
lst = list(itr.combinations(range(1, 20), 6))
arr = np.array(lst)
df = pd.DataFrame(lst)
dq = deque(lst)
print('df for:')
gc.collect()
%timeit [set(i) for _, i in df.iterrows()]
gc.collect()
print('df apply:')
%timeit df.apply(set, axis=1)
gc.collect()
print('arr apply:')
%timeit np.apply_along_axis(set, axis=1, arr=arr)
gc.collect()
print('arr for:')
%timeit [set(i) for i in arr]
gc.collect()
print('lst multithread map:')
pool = Pool(16) # Кол-во потоков CPU.
%timeit pool.map(set, lst)
gc.collect()
print('batched lst multithread map:')
b = 10240
blst = [lst[i:i+b] for i in range(0, len(lst), b)]
pool = Pool(16)
%timeit pool.map(lambda x: [set(i) for i in x], blst)
gc.collect()
print('lst map:')
%timeit list(map(set, lst))
gc.collect()
print('deque for:')
%timeit [set(i) for i in dq]
gc.collect()
print('lst for:')
%timeit [set(i) for i in lst]
gc.collect()
</code>
Результат теста на моей системе:
<code>
df for:
1.55 s ± 20.8 ms per loop (mean ± std. dev. of 7 runs, 1 loop each)
df apply:
358 ms ± 8.1 ms per loop (mean ± std. dev. of 7 runs, 1 loop each)
arr apply:
113 ms ± 1.87 ms per loop (mean ± std. dev. of 7 runs, 10 loops each)
arr for:
52.4 ms ± 486 µs per loop (mean ± std. dev. of 7 runs, 10 loops each)
lst multithread map:
23.7 ms ± 716 µs per loop (mean ± std. dev. of 7 runs, 10 loops each)
batched lst multithread map:
23.5 ms ± 1.15 ms per loop (mean ± std. dev. of 7 runs, 10 loops each)
lst map:
16.4 ms ± 215 µs per loop (mean ± std. dev. of 7 runs, 100 loops each)
deque for:
16.5 ms ± 324 µs per loop (mean ± std. dev. of 7 runs, 100 loops each)
lst for:
16.3 ms ± 464 µs per loop (mean ± std. dev. of 7 runs, 100 loops each)
</code>
Мои победители с средним результатом <code>
16.4</code>:
<code>
[set(i) for i in lst]</code>
<code>
list(map(set, lst))</code>
<code>
[set(i) for i in dq]</code>
|
21,658 | "Takes 1 positional argument but 2 were given" Принимает 1 аргумент, когда 2 были даны
Выдаёт неизвестную ошибку, как это исправить? (я новичок)
Ошибка:
BuildPath() takes 1 positional argument but 2 were given
Мой Код:
<code>
class Object:
posX = 0;
posY = 0;
def __init__(self, posX, posY):
self.posX = posX
self.posY = posY
class Bot(Object):
def __init__(self, posX, posY):
posY = Object.posY
posX = Object.posX
def BuildPath(targetPosition):
x = targetPosition[0] - posX
y = targetPosition[1] - posY
print(targetPosition[1])
</code>
|
В данном случае не стоит добавлять один класс в другой.(Вы же хотите использовать наследование).И в методе buildPath пропущен ключевое слово self.
<code>
class Object:
posX = 0;
posY = 0;
def __init__(self, posX, posY):
self.posX = posX
self.posY = posY
class Bot(Object):
def __init__(self, posX, posY):
self.posY = Object.posY
self.posX = Object.posX
def BuildPath(self,targetPosition):
x = targetPosition[0] - self.posX
y = targetPosition[1] - self.posY
print(targetPosition[1])
obj=Object(1,2)
Bot=Bot(1,2)
Bot.BuildPath([4,5])
</code>
|
21,659 | Вопрос по static method и class method
Хочу утвердиться правильно ли я понимаю static method и class method.
Если мы метод оборачиваем в декоратор <code>
@staticmethod</code>, то объявленный метод не будет относиться ни к классу в котором мы его объявили, и объекту к которого мы создали, вопрос значит ли это что я могу написать этот метод как функцию в области модуля?
Если обернуть метод в декоратор <code>
@classmethod</code>, то при вызове как я понимаю он будет влиять на все объекты созданные на основе этого класса. Ну например скажем есть поле count, который считает общее количество созданных объектов или я не так все понимаю?
|
Различие в том, какое значение будет неявно передано в метод в качестве дополнительного аргумента.
<code>
class A:
@staticmethod
def method1():
print('static method')
@classmethod
def method2(cls):
print('class method', cls)
def method3(self):
print('regular method', self)
a = A()
a.method1() # static method
a.method2() # class method <class '__main__.A'>
a.method3() # regular method <__main__.A object at 0x7f5ebe7d6128>
</code>
В <code>
method1</code> не будет передано ничего лишнего, в <code>
method2</code> будут передан только класс соответствующий экземпляру (<code>
A</code>), а в <code>
method3</code> - сам экземпляр (<code>
a</code>).
Так как первые два метода не привязаны к конкретному экземпляру, их также можно вызывать от имени класса.
<code>
A.method1() # static method
A.method2() # class method <class '__main__.A'>
</code>
Если попытаться таким образом вызвать <code>
method3</code> это приведет к ошибке
<code>
A.method3() # TypeError: method3() missing 1 required positional argument: 'self'
</code>
В таком случае необходимо будет указать экземпляр явно
<code>
A.method3(a) # regular method <__main__.A object at 0x7f0f9cda10b8>
</code>
Если метод, декорированный <code>
classmethod</code>, будет унаследован, ему в качестве аргумента будет передан уже класс наследник
<code>
class B(A):
pass
b = B()
b.method2() # class method <class '__main__.B'>
B.method2() # class method <class '__main__.B'>
</code>
Что отличает его от метода, декорированного <code>
staticmethod</code>, который ничего не знает о конкретном классе, от имени которого (или от имени экземпляра которого) его вызвали.
Upd
Например, есть класс
<code>
class A:
def __init__(self, arg):
self.arg = arg
def __repr__(self):
return f'{type(self).__name__}({self.arg!r})'
</code>
Наша задача в том, чтобы автоматически сохранять все создаваемые экземпляры класса в список, и впоследствии иметь возможность этот список получить. В первом приближении получаем такое решение:
<code>
class A:
_instances = []
def __init__(self, arg):
self.arg = arg
self.get_instances().append(self)
@staticmethod
def get_instances():
return A._instances
def __repr__(self):
return f'{type(self).__name__}({self.arg!r})'
A(1)
A('test')
A(1 == 0)
print(A.get_instances()) # [A(1), A('test'), A(False)]
</code>
Здесь <code>
get_instances</code> вызывается от имени экземпляра, это возможно благодаря декоратору <code>
staticmethod</code>. Можно было бы обойтись без него, и вручную вызвать метод от имени класса <code>
type(self).get_instances()</code>, но с декоратором код становится проще.
Проблемы начинаются, когда появляется класс наследник
<code>
class B(A):
pass
B(None)
print(B.get_instances()) # [A(1), A('test'), A(False), B(None)]
</code>
<code>
B</code> не имеет собственного списка экземпляров, и просто выводит вышестоящий. Туда же добавляются и экземпляры <code>
B</code>.
Перепишем решение, заменив список на словарь <code>
(Класс, Список)</code>.
<code>
class A:
_instances = {}
def __init__(self, arg):
self.arg = arg
self.get_instances().append(self)
@staticmethod
def get_instances():
return A._instances.setdefault(A, [])
def __repr__(self):
return f'{type(self).__name__}({self.arg!r})'
class B(A):
@staticmethod
def get_instances():
return B._instances.setdefault(B, [])
A(1)
A('test')
A(1 == 0)
print(A.get_instances()) # [A(1), A('test'), A(False)]
B(None)
print(B.get_instances()) # [B(None)]
</code>
Теперь все работает, но в каждом потомке нужно переопределять метод <code>
get_instances</code>, это приводит к повторениям и увеличивает шанс допустить ошибку. Тут на помощь приходит <code>
classmethod</code>
<code>
class A:
_instances = {}
def __init__(self, arg):
self.arg = arg
self.get_instances().append(self)
@classmethod
def get_instances(cls):
return cls._instances.setdefault(cls, [])
def __repr__(self):
return f'{type(self).__name__}({self.arg!r})'
class B(A):
pass
A(1)
A('test')
A(1 == 0)
print(A.get_instances()) # [A(1), A('test'), A(False)]
B(None)
print(B.get_instances()) # [B(None)]
</code>
Теперь любой класс потомок будет иметь собственный список экземпляров, а вся логика по поддержанию этих списков описана только в базовом классе.
|
21,660 | Как из байта D0 получился символ DCD0?
У меня есть файл, в имени которого есть болтающийся без пары байт <code>
\xd0</code>:
<code>
touch `echo -en 'test\xd0.txt'`
</code>
Когда я смотрю список файлов в каталоге через питон, он декодирует мне его в такую юникодную строку:
<code>
>>> os.listdir('.')
['test\udcd0.txt']
</code>
И через эту юникодную строку он позволяет мне работать с файлом:
<code>
>>> open('test\udcd0.txt', 'r').read()
'' # (логичный результат для пустого файла)
</code>
Но вот, например, печатать её уже не даёт:
<code>
>>> print('test\udcd0.txt')
UnicodeEncodeError: 'utf-8' codec can't encode character '\udcd0' in position 4: surrogates not allowed
</code>
Вопрос: каким образом из <code>
\xd0</code> получилось <code>
\udcd0</code>? Есть ли где-то чётко описанный алгоритм или это просто деталь реализации CPython? Могу ли я сам кодировать и декодировать такие битые строки подобным образом?
Для сравнения, listdir в Python 2, в котором все строки по умолчанию байтовые, выдаёт мне <code>
'test\xd0.txt'</code>, никак не коверкая хранящееся на ФС имя файла.
|
Проблема в том что в разных местах разные умолчания для кодека. И это сделанно не просто так.
Тут нужно разобраться в природе символов.
code points in the range U+DC00–U+DFFF (1,024 code points) are known as low-surrogate code points.
Эти символы не переводятся в UTF-8 никак, они не считаются символами вообще. Питон используя внутренний кодек при выводе на экран выдает на эту последовательность ошибку.
Файловый менеджер обрабатывает ошибку как положенно:
insert a replacement character (�).
Самое интересное как одинокий символ перевелся. Из сишной <code>
fstat</code> притон получает байты. Во внутренней реализации используется замена на сурогаты. Это происходит внутри сишного кода, где поведение кодека установленно так:
<code>
>>> b"\xd0".decode('utf-8',errors='surrogateescape')
'\udcd0'
</code>
Это сделанно для того чтоб при обращению к файлу по имени не терялись байты в имени изз преобразования кодировки.
Функция <code>
print</code> же доработанна в соответствии со поведением по умолчанию питона: <code>
errors='strict'</code>
Вы должны определить что делать с несимволами.
Вывести текст без ошибок можно если добавить к кодеку опции <code>
errors='replace'</code>
С python2 такое не повторяется потому что строки в питоне смотрите не юникодные. Нет перекодирования - нет проблем.
<code>
python 2 : "" === b""
python 3 : "" === u""
</code>
PS.
<code>
open(b'a\320a','r') # работает
open(b'a\xd0a','r') # работает
</code>
|
21,661 | Новые записи не появляются в БД после вставки
Сделал функцию, загрузки пользователей ВК из беседы в БД (SQLite). Одновременно работаю с vk_api.
Вот код, ошибок в консоли ни каких нету и в БД ничего не происходит, ни каких изменений.
<code>
def loadDB():
import sqlite3
Connect = sqlite3.connect("CaptureBotDB.db")
Cursor = Connect.cursor()
peer_id = event.obj.get('peer_id')
chat = vk.messages.getConversationMembers(peer_id=peer_id)
for members in chat['profiles']:
first_name = str(members['first_name'])
last_name = str(members['last_name'])
user_id = str(members['id'])
sql = """INSERT INTO ListMembers (first_name, last_name, user_id) VALUES (?,?,?)"""
Cursor.execute(sql, (str(first_name), str(last_name), str(user_id)))
</code>
Проверил для начала вод этот кусок кода, работает ли вовсе:
<code>
first_name = str(members['first_name'])
last_name = str(members['last_name'])
user_id = str(members['id'])
print(str(first_name) + str(last_name) + str(user_id))
</code>
Всё выводит: (Это список пользователей беседы)
<code>
СтепанЗеленин154845243
UserGames434495547
KarlRendal539995337
</code>
Видимо, что-то не так я сделал с частью SQLite. Что не так?
|
Изменения надо зафиксировать:
<code>
Connect.commit()
</code>
|
21,662 | Как найти и изменить значение в БД? SQLite
Работаю с БД SQLite. Дополнительно работаю с ботом в ВКонтакте. Так вот, я не могу понять, как сделать команду, которая будет изменять значение с БД по поиску другого значения. То есть, есть команда для бота - /ник, где есть два значения. /ник <code>
[Пользователь]</code>, где пользователь это имя, которое находится в БД. И /ник <code>
[Пользователь]</code> <code>
[Ник]</code>, где ник это значение, которое нужно указать для изменения в БД. Вот, как я это всё представил:
<code>
first_name last_name nickname
Вася Петров NULL
</code>
Пишу команду для бота: /ник Вася (либо Петров) VasyaPetrov
<code>
first_name last_name nickname
Вася Петров VasyaPetrov
</code>
Подскажите пожалуйста, как это сделать.
|
если вопрос в том как изменить существующую запись в SQLite DB, то это можно сделать при помощи <code>
UPDATE ...</code>:
<code>
conn = sqlite3.connect("CaptureBotDB.db")
cur = conn.cursor()
sql = """UPDATE ListMembers SET nickname = %s WHERE id = %s"""
cur.execute(sql, (nicjname, record_id))
</code>
PS менять записи для всех <code>
Вась</code> или для всех <code>
Петровых</code> опасно. Представьте что в вашей БД 30 записей с фамилией Петров - для всех этих записей вы перепишете поле <code>
nickname</code>. Поэтому в таких случаях лучше всегда иметь уникальный столбец - первичный ключ (<code>
identifier</code> или сокращенно <code>
id</code>) и обращаться к записям по <code>
id</code>.
|
21,663 | Группировка функций внутри классов
Я хочу сгруппировать несколько методов в разные группы. Все это я хочу содержать в одном большом классе
Что я пробовал сделать:
<code>
class MyClass:
def __init__(self, name):
self.name = name
class Group1:
def method1():
print('I am method 1 from group Group1, my best friend is ' + name)
class Group2:
def method1():
print('I am method 1 from group Group2, my best friend is ' + name)
def method2():
print('I am method 2 from group Group2, my best friend is ' + name)
</code>
Эта идея сама по себе оказалась неправильной, проблема этого ужасного способа была в том, что name нельзя было передать из класса-родителя в вложенные классы
Хотел я сделать что-то вроде группировки методов как в vk-requests, там вызов методов реализован так:
<code>
bot.messages.send()
</code>
То есть все методы имеют собственную группу. Поискав решение в исходниках того проекта, я мало что смог понять и пришел за разнеснениями сюда
Пока, все что я пытался придумать для того, чтобы это осуществилось, закончилось провалом. Могу ли я сделать то, что я хочу и каким образом, если это так?
|
В данном случае используется композиция
<code>
# Класс Messages может находиться вообще в другом модуле,
# не нужно его вставлять в сам класс, где он используется
class Messages:
def __init__(self, arg):
self.arg = arg
def send(self):
print("Message sent", self.arg)
class MyClass:
def __init__(self, arg):
self.arg = arg
# Ниже создаем экземпляр класса Messages и записываем в поле объекта
self.messages = Messages(arg)
me = MyClass(123)
me.messages.send() # Вывод: Message sent 123
</code>
Как видим, класс внутрь другого класса вставлять не нужно.
К прочтению: Наследование, композиция, агрегация
По поводу vk-requests - можно найти проект на гитхабе и посмотреть как все устроено внутри.
|
21,665 | Как оценить сложность модели нейронной сети
Есть две модели для классификации изображений кошек и собак.
Могу ли я как-нибудь оценить сложность этих моделей?
<code>
import tensorflow as tf
import numpy as np
import shutil
import os
from tensorflow.python.keras.preprocessing.image import ImageDataGenerator
from tensorflow.python.keras.models import Sequential
from tensorflow.python.keras.layers import Conv2D, MaxPooling2D
from tensorflow.python.keras.layers import Activation, Dropout, Flatten, Dense
from tensorflow.python.keras.preprocessing.image import load_img
from tensorflow.python.keras.preprocessing.image import img_to_array
# Каталог с набором данных
data_dir = 'C:/Users/Mi/Desktop/Machine learning/train_cats_vs_dogs/train/'
# Каталог с данными для обучения
train_dir = 'C:/Users/Mi/Desktop/Machine learning/train_cats_vs_dogs/traini/'
# Каталог с данными для проверки
val_dir = 'C:/Users/Mi/Desktop/Machine learning/train_cats_vs_dogs/val/'
# Каталог с данными для тестирования
test_dir = 'C:/Users/Mi/Desktop/Machine learning/train_cats_vs_dogs/test/'
# Часть набора данных для тестирования
test_data_portion = 0.15
# Часть набора данных для проверки
val_data_portion = 0.15
# Количество элементов данных в одном классе
nb_images = 12500
# Размеры изображения
img_width, img_height = 150, 150
# Размерность тензора на основе изображения для входных данных в нейронную сеть
# backend Tensorflow, channels_last
input_shape = (img_width, img_height, 3)
# Количество эпох
epochs = 10
# Размер мини-выборки
batch_size = 16
# Количество изображений для обучения
nb_train_samples = 17500
# Количество изображений для проверки
nb_validation_samples = 3750
# Количество изображений для тестирования
nb_test_samples = 3750
# Архитектура модели нейронной сети
import time
# Время работы блока алгоритма
class Profiler(object):
def __enter__(self):
self._startTime = time.time()
def __exit__(self, type, value, traceback):
print("Elapsed time: {:.3f} sec".format(time.time() - self._startTime))
# Сверточная нейронная сеть
with Profiler() as p:
model = Sequential()
model.add(Conv2D(32, (3, 3), input_shape=input_shape))
model.add(Activation('relu'))
model.add(MaxPooling2D(pool_size=(2, 2)))
model.add(Conv2D(32, (3, 3)))
model.add(Activation('relu'))
model.add(MaxPooling2D(pool_size=(2, 2)))
model.add(Conv2D(64, (3, 3)))
model.add(Activation('relu'))
model.add(MaxPooling2D(pool_size=(2, 2)))
model.add(Flatten())
model.add(Dense(64))
model.add(Activation('relu'))
model.add(Dropout(0.5))
model.add(Dense(1))
model.add(Activation('sigmoid'))
model.compile(loss='binary_crossentropy',
optimizer='adam',
metrics=['accuracy'])
datagen = ImageDataGenerator(rescale=1. / 255)
train_generator = datagen.flow_from_directory(
train_dir,
target_size=(img_width, img_height),
batch_size=batch_size,
class_mode='binary')
val_generator = datagen.flow_from_directory(
val_dir,
target_size=(img_width, img_height),
batch_size=batch_size,
class_mode='binary')
test_generator = datagen.flow_from_directory(
test_dir,
target_size=(img_width, img_height),
batch_size=batch_size,
class_mode='binary')
model.fit_generator(
train_generator,
steps_per_epoch=nb_train_samples // batch_size,
epochs=epochs,
validation_data=val_generator,
validation_steps=nb_validation_samples // batch_size)
# Проверка модели на тестовых данных
scores = model.evaluate_generator(test_generator, nb_test_samples // batch_size)
print("Точность на тестовых данных: %.2f%%" % (scores[1]*100))
# Полносвязная нейронная сеть
with Profiler() as p:
model1 = Sequential()
model1.add(Flatten(input_shape=input_shape))
model1.add(Dense(32))
model1.add(Activation('relu'))
model1.add(Dense(32))
model1.add(Activation('relu'))
model1.add(Dense(64))
model1.add(Activation('relu'))
model1.add(Dense(64))
model1.add(Activation('relu'))
model1.add(Dropout(0.5))
model1.add(Dense(1))
model1.add(Activation('sigmoid'))
model1.compile(loss='binary_crossentropy',
optimizer='sgd',
metrics=['accuracy'])
datagen = ImageDataGenerator(rescale=1. / 255)
train_generator = datagen.flow_from_directory(
train_dir,
target_size=(img_width, img_height),
batch_size=batch_size,
class_mode='binary')
val_generator = datagen.flow_from_directory(
val_dir,
target_size=(img_width, img_height),
batch_size=batch_size,
class_mode='binary')
test_generator = datagen.flow_from_directory(
test_dir,
target_size=(img_width, img_height),
batch_size=batch_size,
class_mode='binary')
model1.fit_generator(
train_generator,
steps_per_epoch=nb_train_samples // batch_size,
epochs=epochs,
validation_data=val_generator,
validation_steps=nb_validation_samples // batch_size)
scores = model1.evaluate_generator(test_generator, nb_test_samples // batch_size)
print("Точность на тестовых данных: %.2f%%" % (scores[1]*100))
# Тестирование модели на картинке пользователя
classes=['dog','cat']
img = load_img('z.jpg', target_size=(150, 150))
# Преобразование картинки в вектор
x =img_to_array(img)
x = x.reshape(1,150,150,3).astype('float')
x /= 255
# Применение к вектору сверточной нейронной сети
with Profiler() as p:
pred = model.predict(x)
pred = np.around(pred)
print(classes[int(pred[0][0])])
# Применение к вектору полносвязной нейронной сети
with Profiler() as p:
pred1=model1.predict(x)
pred1 = np.around(pred1)
print(classes[int(pred1[0][0])])
</code>
|
При обучении нейронных сетей расчитываются матрицы весов нейронных связей. Соответственно, одним из самых распространенных способом оценки сложности архитектуры является число параметров, для которых подбираются веса.
Для этого существует метод model.summary:
<code>
In [4]: model.summary()
_________________________________________________________________
Layer (type) Output Shape Param #
=================================================================
conv2d (Conv2D) (None, 148, 148, 32) 896
_________________________________________________________________
activation (Activation) (None, 148, 148, 32) 0
_________________________________________________________________
max_pooling2d (MaxPooling2D) (None, 74, 74, 32) 0
_________________________________________________________________
conv2d_1 (Conv2D) (None, 72, 72, 32) 9248
_________________________________________________________________
activation_1 (Activation) (None, 72, 72, 32) 0
_________________________________________________________________
max_pooling2d_1 (MaxPooling2 (None, 36, 36, 32) 0
_________________________________________________________________
conv2d_2 (Conv2D) (None, 34, 34, 64) 18496
_________________________________________________________________
activation_2 (Activation) (None, 34, 34, 64) 0
_________________________________________________________________
max_pooling2d_2 (MaxPooling2 (None, 17, 17, 64) 0
_________________________________________________________________
flatten (Flatten) (None, 18496) 0
_________________________________________________________________
dense (Dense) (None, 64) 1183808
_________________________________________________________________
activation_3 (Activation) (None, 64) 0
_________________________________________________________________
dropout (Dropout) (None, 64) 0
_________________________________________________________________
dense_1 (Dense) (None, 1) 65
_________________________________________________________________
activation_4 (Activation) (None, 1) 0
=================================================================
Total params: 1,212,513
Trainable params: 1,212,513 # <------ NOTE !!!
Non-trainable params: 0
</code>
Для второй модели:
<code>
In [6]: model1.summary()
_________________________________________________________________
Layer (type) Output Shape Param #
=================================================================
flatten_1 (Flatten) (None, 67500) 0
_________________________________________________________________
dense_2 (Dense) (None, 32) 2160032
_________________________________________________________________
activation_5 (Activation) (None, 32) 0
_________________________________________________________________
dense_3 (Dense) (None, 32) 1056
_________________________________________________________________
activation_6 (Activation) (None, 32) 0
_________________________________________________________________
dense_4 (Dense) (None, 64) 2112
_________________________________________________________________
activation_7 (Activation) (None, 64) 0
_________________________________________________________________
dense_5 (Dense) (None, 64) 4160
_________________________________________________________________
activation_8 (Activation) (None, 64) 0
_________________________________________________________________
dropout_1 (Dropout) (None, 64) 0
_________________________________________________________________
dense_6 (Dense) (None, 1) 65
_________________________________________________________________
activation_9 (Activation) (None, 1) 0
=================================================================
Total params: 2,167,425
Trainable params: 2,167,425 # <------ NOTE !!!
Non-trainable params: 0
</code>
NOTE: скорость обучения также зависит от функций активации, поэтому такое сравнение будет неточным.
С точки зрения оценки времени обучения, полезнее / точнее будет попытаться обучить НС на небольшом числе эпох - 3-5 эпох, посчитать среднее время обучения одной эпохи и умножить на число эпох, которые вы планируете использовать для обучения.
|
21,666 | Python Как удалить из файла все строки с 1 символом?
После того как пропарсил сайт с помощью Scrapy у меня получился файл в который как то попали пустые строки и запятые
<code>
'url1'
запятая
'url5'
</code>
Вопрос - как удалить все строки с 1 символом(запятой в данном случае) что бы вышло
<code>
'url1'</code>
<code>
'url2'</code>
?
|
<code>
for line in open('file.txt'):
if len(line) == 1:
print() # если нужна пустая строка, иначе заменить на pass
else:
print(line)
</code>
|
21,669 | Как достать ID из упоминания? vk_api
Не пойму, как достать ID из упоминания. Взялся за команду <code>
!kick</code>. Работает она таким способом:
<code>
!kick ID пользователя</code>, но я хочу сделать так, чтобы данная команда работала вот так: <code>
!kick @user <<< !kick [id0|user]</code>. <code>
'@'</code> - Упомянуть пользователя в беседе.
Говорили использовать регулярные выражения, но не понимаю, как. Помогите пожалуйста решить, данный вопрос. Для меня, так сказать, это важно.
Код:
<code>
if request[0:5] == "!кик " and user_id in admin:
vk.messages.removeChatUser(chat_id=chat_id, user_id=request[5:])
</code>
|
Вы можете воспользоваться регулярным выражением для того, чтобы извлечь <code>
id</code> из сообщения.
Вот пример того, как это можно реализовать:
<code>
import re
string = '!kick [id123456|user]'
user_id = re.findall(r'!kick \[id(\d*)\|.*]', string)[0]
print(user_id)
</code>
stdout:
<code>
123456
</code>
|
21,670 | Передать в Class импортируемого модуля переменные
Есть модуль, который я импортирую,например:
<code>
import module_name
</code>
В самом модуле класс:
<code>
my_class:
some_var = my_var
do_something()
</code>
есть переменная, например:
<code>
my_var = 777
</code>
Как мне из моего кода передать в класс модуля нужную мне переменную <code>
my_var</code>?
|
<code>
class MyClass:
def __init__(self, my_var):
self.some_var = my_var
print(self.some_var)
#do_something()
my_var = 777
myClass = MyClass(my_var)
777
print(myClass.some_var)
777
</code>
модуль импортируется из другого файла
main.py
<code>
from module_name import MyClass
my_var = 777
myClass = MyClass(my_var)
print(myClass.some_var)
</code>
module_name.py
<code>
class MyClass:
def __init__(self, my_var):
self.some_var = my_var
print(self.some_var)
#do_something()
</code>
|
21,674 | Занесение данных в sqlite с помощью функции
Пытался создать функцию с 3-мя аргументами, для занесения их в таблицу. Ошибку ловлю такую:
<code>
line 9, in add_user
c.execute('''INSERT INTO users VALUES (date_time, username, user_id)''', (date_time, username, user_id))
sqlite3.OperationalError: no such column: date_time
</code>
Что я сделал не так и как это можно исправить?
<code>
# -*- coding: utf-8 -*-
import sqlite3
conn = sqlite3.connect('name.db')
c = conn.cursor()
def add_user(date_time, username, user_id):
c.execute('''INSERT INTO users VALUES (date_time, username, user_id)''')
conn.commit()
conn.close()
date_time = '2006-01-05'
username = 'Admin'
user_id = 'oivb1381y319iu2bvi'
add_user(date_time, username, user_id)
</code>
|
Помоему кавычка лишняя в запросе
было:
<code>
c.execute('''INSERT INTO users VALUES (date_time,'username, user_id)''', (date_time, username, user_id))
</code>
поменять:
<code>
c.execute('''INSERT INTO users(date_time,username, user_id) VALUES (date_time,username, user_id)''', (date_time, username, user_id))
</code>
ps: добавил название колонок в запрос
|
21,675 | Прогнозирование временных рядов SARIMAX statsmodels в Python
Для прогнозирования временного ряда я использую модель SARIMAX. Строю модель, сохраняю рассчитанные коэффициенты и пытаюсь применить на новом множестве. Я считаю, что предобученная модель SARIMAX с параметрами <code>
order=(1, 1, 1)</code>, <code>
seasonal_order=(1, 1, 1, 1)</code> для прогнозирования должна использовать 5 последних значений ряда. Однако пример ниже показывает, что она использует более 50 исторических значений для прогноза. Подскажите, пожалуйста, почему так?
Пример
<code>
from statsmodels.tsa.statespace.sarimax import SARIMAX
X = [1.0, 3.0, 5.0, 8.0, 2.0, 3.0, 2.0, 1.0, 4.0, 5.0, 9.0, 2.0, 3.0, 1.0, 2.0, 3.0, 6.0, 8.0, 3.0, 3.0, 1.0, 2.0, 6.0, 10.0, 16.0, 4.0, 6.0, 4.0, 2.0, 6.0, 10.0, 16.0, 4.0, 6.0, 4.0, 3.0, 7.0, 11.0, 17.0, 5.0, 5.0, 3.0, 3.0, 7.0, 16.0, 17.0, 5.0, 5.0, 3.0, 4.0, 9.0, 18.0, 24.0, 7.0, 7.0, 6.0, 2.0, 3.0, 6.0, 8.0, 3.0, 3.0, 1.0, 2.0, 6.0, 10.0, 16.0, 4.0, 6.0, 4.0, 2.0, 6.0, 10.0, 16.0, 4.0, 6.0, 4.0, 3.0, 7.0, 11.0, 17.0, 5.0, 5.0, 3.0, 3.0, 7.0, 16.0, 17.0, 5.0, 5.0, 3.0, 4.0, 9.0, 18.0, 24.0, 7.0, 7.0, 6.0]
train = X[:-1]
model = SARIMAX(train, order=(1, 1, 1), seasonal_order=(1, 1, 1, 1))
model_fit = model.fit(disp=False)
modelB = SARIMAX(train[-50:], order=(1, 1, 1), seasonal_order=(1, 1, 1, 1))
resB = modelB.smooth(model_fit.params)
y = model_fit.forecast()
y2 = resB.forecast()
print(y, y2)
</code>
Результат <code>
y = 8.34461063</code>, <code>
y2 = 8.19208365</code>. Я ожидала, что <code>
y == y2</code>, но это не так. Объясните, пожалуйста, почему?
P.S. Я знаю, что проблема в расчете скользящей средней. Т.е. модель с параметрами <code>
order=(1, 1, 0)</code>, <code>
seasonal_order=(1, 1, 0, 1)</code> для прогноза будет использовать 4 последних значения ряда. А исходная модель (см. пример) почему-то требует более 50 одинаковых значений на хвосте.
|
модель зависит не только от коэффициентов модели SARIMA, но и от шума epsilon_t. Хотя формально каждый член ряда зависит от шума 4-х предыдущих членов ряда, шум четырех предыдущих высчитывается по ещё предыдущим и так до самого начала. Соответственно у модели есть еще один скрытый параметр - длинна окна для расчета шума.
|
21,677 | Как создавать архивы при помощи модуля zipfile?
Я начинающий python программист.
Я не могу понять, как создавать архивы при помощи модуля zipfile?
Объясните пожалуйста (если несложно, добавьте пример в виде программы)
|
<code>
from zipfile import ZipFile
with ZipFile('spam.zip', 'w') as myzip:
myzip.write('as.py')
</code>
|
21,678 | Как очистить dict не полностью, а только значения в ключах?
Хотел узнать как очистить значения в ключах в dict, не удаляя от туда ключи. Методом clear не получиться, так как он очистит полностью.
|
Не совсем понятно, что означает «очистить», но вот так можно присвоить ключам пустую строку:
<code>
for key in dictionary:
dictionary[key] = ""
</code>
|
21,679 | Парсинг HTML файла
у меня есть html документ, в котором записаны результаты матчей по теннису.
Из данного html документа мне нужно получить названия лиг и имена игроков, которые играют в данной лиге.
Проблема в том, что названия лиг и информация по матчам находятся в отдельных блоках html кода.
Ожидаемый результат вывода:
<code>
------------------------
ATP - ОДИНОЧНЫЙ РАЗРЯД
------------------------
Тиафо Ф. (Сша)
Бублик А. (Каз)
------------------------
ATP - ОДИНОЧНЫЙ РАЗРЯД
------------------------
Эдмунд К. (Вел)
Харрис Дж. (Южн)
------------------------
ITF - ОДИНОЧНЫЙ РАЗРЯД
------------------------
</code>
и т.д. ....
То есть мне нужно каждой паре игроков присвоить их родительскую лигу и так выводить с каждой парой игроков
Вот мой код, в нем все выводится по отдельности, сначала в цикле выводятся лиги, потом имена игроков:
<code>
from bs4 import BeautifulSoup
import codecs
f = codecs.open("html_score.html", 'r', 'utf-8') # читаем код html из файла
html = f.read() # записываем его в переменную
soup = BeautifulSoup(html, "lxml")
list_matchs = soup.find_all("div", {"title":"Подробности матча!"}) # получаем все матчи
list_ligs = soup.find_all("div", {"class":"event__header"}) # получаем все родительские лиги матчей
# Перебор родительских лиг
for ligs in list_ligs:
name_lig = ligs.find("span", {"class":"event__title--type"}) # получаем название лиги
print(name_lig.text)
# Перебор матчей
for match in list_matchs:
name_player = match.find_all("div", {"class":"event__participant"}) # получаем название матча
name_player_one = name_player[0].text
name_player_two = name_player[1].text
print(name_player_one)
print(name_player_two)
</code>
Данные берутся из общей папки, из документа html. Я не нашел каких-то зависимостей между лигами и матчами, по-этому не знаю, как решить данную проблему.
Прошу помощи с кодом =) Очень хочется разобраться, как можно решить данную задачу.
Вот тот самый <code>
HTML</code>:
<code>
<div class="sportName tennis">
<div class="event__header">
<div class="event__check"></div>
<div class="icon--flag event__title fl_3473162">
<div class="event__titleBox"><span class="event__title--type">ATP - ОДИНОЧНЫЙ РАЗРЯД</span><span class="event__title--name" title="Вашингтон (США), хард">Вашингтон (США), хард</span></div><span class="toggleMyLeague 2_9011_rgTHIK74"></span>
</div><a href="#" class="event__info active">Сетка</a>
<div class="event__expander icon--expander collapse" title="Скрыть все игры этого турнира!"></div>
</div>
<div id="g_2_4QWoo2eA" title="Подробности матча!" class="event__match event__match--twoLine">
<div class="event__check"></div>
<div class="event__stage">Завершен</div>
<div class="event__participant event__participant--home fontBold">Тиафо Ф. (Сша)</div>
<div class="event__participant event__participant--away">Бублик А. (Каз)</div>
<div class="event__score event__score--home">2</div>
<div class="event__score event__score--away">0</div>
<div class="event__part event__part--home event__part--1">6</div>
<div class="event__part event__part--away event__part--1">1</div>
<div class="event__part event__part--home event__part--2">7<sup class="event__part--ex">7</sup></div>
<div class="event__part event__part--away event__part--2">6<sup class="event__part--ex">5</sup></div>
</div>
<div id="g_2_jBAbIc3G" title="Подробности матча!" class="event__match event__match--twoLine">
<div class="event__check"></div>
<div class="event__stage">Завершен</div>
<div class="event__participant event__participant--home fontBold">Эдмунд К. (Вел)</div>
<div class="event__participant event__participant--away">Харрис Дж. (Южн)</div>
<div class="event__score event__score--home">2</div>
<div class="event__score event__score--away">0</div>
<div class="event__part event__part--home event__part--1">6</div>
<div class="event__part event__part--away event__part--1">1</div>
<div class="event__part event__part--home event__part--2">6</div>
<div class="event__part event__part--away event__part--2">4</div>
</div>
<div id="g_2_dpTOvnbg" title="Подробности матча!" class="event__match event__match--twoLine">
<div class="event__check"></div>
<div class="event__stage">Завершен</div>
<div class="event__participant event__participant--home">Рублёв А. (Рос)</div>
<div class="event__participant event__participant--away fontBold">Гоёвчик П. (Гер)</div>
<div class="event__score event__score--home">1</div>
<div class="event__score event__score--away">2</div>
<div class="event__part event__part--home event__part--1">6<sup class="event__part--ex">6</sup></div>
<div class="event__part event__part--away event__part--1">7<sup class="event__part--ex">8</sup></div>
<div class="event__part event__part--home event__part--2">6</div>
<div class="event__part event__part--away event__part--2">4</div>
<div class="event__part event__part--home event__part--3">6<sup class="event__part--ex">2</sup></div>
<div class="event__part event__part--away event__part--3">7<sup class="event__part--ex">7</sup></div>
</div>
<div id="g_2_0G2PXiLg" title="Подробности матча!" class="event__match event__match--twoLine">
<div class="event__check"></div>
<div class="event__stage">Завершен</div>
<div class="event__participant event__participant--home fontBold">Цонга Ж. (Фра)</div>
<div class="event__participant event__participant--away">Хачанов К. (Рос)</div>
<div class="event__score event__score--home">2</div>
<div class="event__score event__score--away">1</div>
<div class="event__part event__part--home event__part--1">6</div>
<div class="event__part event__part--away event__part--1">4</div>
<div class="event__part event__part--home event__part--2">2</div>
<div class="event__part event__part--away event__part--2">6</div>
<div class="event__part event__part--home event__part--3">7</div>
<div class="event__part event__part--away event__part--3">5</div>
</div>
<div class="event__header">
<div class="event__check"></div>
<div class="icon--flag event__title fl_3473162">
<div class="event__titleBox"><span class="event__title--type">ITF - ОДИНОЧНЫЙ РАЗРЯД</span><span class="event__title--name" title="Китцбюэль (Австрия), грунт">Китцбюэль (Австрия), грунт</span>
</div><span class="toggleMyLeague 2_9011_84SxvsCb"></span>
</div><a href="#" class="event__info active">Сетка</a>
<div class="event__expander icon--expander collapse" title="Скрыть все игры этого турнира!"></div>
</div>
<div id="g_2_CQt8DEGe" title="Подробности матча!" class="event__match event__match--twoLine">
<div class="event__check"></div>
<div class="event__stage">Завершен</div>
<div class="event__participant event__participant--home fontBold">Шарди Ж. (Фра)</div>
<div class="event__participant event__participant--away">Лайович Д. (Сер)</div>
<div class="event__score event__score--home">2</div>
<div class="event__score event__score--away">1</div>
<div class="event__part event__part--home event__part--1">3</div>
<div class="event__part event__part--away event__part--1">6</div>
<div class="event__part event__part--home event__part--2">6</div>
<div class="event__part event__part--away event__part--2">4</div>
<div class="event__part event__part--home event__part--3">6</div>
<div class="event__part event__part--away event__part--3">3</div>
</div>
<div id="g_2_vemj9V4F" title="Подробности матча!" class="event__match event__match--twoLine">
<div class="event__check"></div>
<div class="event__stage">Завершен</div>
<div class="event__participant event__participant--home fontBold">Рууд К. (Нор)</div>
<div class="event__participant event__participant--away">Бахингер М. (Гер)</div>
<div class="event__score event__score--home">2</div>
<div class="event__score event__score--away">0</div>
<div class="event__part event__part--home event__part--1">6</div>
<div class="event__part event__part--away event__part--1">4</div>
<div class="event__part event__part--home event__part--2">7<sup class="event__part--ex">7</sup></div>
<div class="event__part event__part--away event__part--2">6<sup class="event__part--ex">3</sup></div>
</div>
<div id="g_2_biQ8fzxI" title="Подробности матча!" class="event__match event__match--twoLine">
<div class="event__check"></div>
<div class="event__stage">Завершен</div>
<div class="event__participant event__participant--home fontBold">Рамос А. (Исп)</div>
<div class="event__participant event__participant--away">Муньяр Х. (Исп)</div>
<div class="event__score event__score--home">2</div>
<div class="event__score event__score--away">0</div>
<div class="event__part event__part--home event__part--1">6</div>
<div class="event__part event__part--away event__part--1">2</div>
<div class="event__part event__part--home event__part--2">6</div>
<div class="event__part event__part--away event__part--2">3</div>
</div>
<div id="g_2_C6xo8uB5" title="Подробности матча!" class="event__match event__match--twoLine">
<div class="event__check"></div>
<div class="event__stage">Завершен</div>
<div class="event__participant event__participant--home">Новак Д. (Авт)</div>
<div class="event__participant event__participant--away fontBold">Куэвас П. (Уру)</div>
<div class="event__score event__score--home">1</div>
<div class="event__score event__score--away">2</div>
<div class="event__part event__part--home event__part--1">7<sup class="event__part--ex">7</sup></div>
<div class="event__part event__part--away event__part--1">6<sup class="event__part--ex">1</sup></div>
<div class="event__part event__part--home event__part--2">0</div>
<div class="event__part event__part--away event__part--2">6</div>
<div class="event__part event__part--home event__part--3">2</div>
<div class="event__part event__part--away event__part--3">6</div>
</div>
<div class="event__header">
<div class="event__check"></div>
<div class="icon--flag event__title fl_3473162">
<div class="event__titleBox"><span class="event__title--type">ЧЕЛЕНДЖЕР - ОДИНОЧНЫЙ РАЗРЯД</span><span class="event__title--name" title="Лос Кабос (Мексика), хард">Лос Кабос (Мексика), хард</span></div>
<span class="toggleMyLeague 2_9011_88suDyRE"></span>
</div><a href="#" class="event__info active">Сетка</a>
<div class="event__expander icon--expander collapse" title="Скрыть все игры этого турнира!"></div>
</div>
<div id="g_2_pKU5M2Ya" title="Подробности матча!" class="event__match event__match--twoLine">
<div class="event__check"></div>
<div class="event__stage">Завершен</div>
<div class="event__participant event__participant--home">Типсаревич Я. (Сер)</div>
<div class="event__participant event__participant--away fontBold">Албот Р. (Мол)</div>
<div class="event__score event__score--home">1</div>
<div class="event__score event__score--away">2</div>
<div class="event__part event__part--home event__part--1">5</div>
<div class="event__part event__part--away event__part--1">7</div>
<div class="event__part event__part--home event__part--2">6</div>
<div class="event__part event__part--away event__part--2">2</div>
<div class="event__part event__part--home event__part--3">0</div>
<div class="event__part event__part--away event__part--3">6</div>
</div>
<div id="g_2_bqpBJ0II" title="Подробности матча!" class="event__match event__match--twoLine">
<div class="event__check"></div>
<div class="event__stage">Завершен</div>
<div class="event__participant event__participant--home">Гарин К. (Чил)</div>
<div class="event__participant event__participant--away fontBold">Лондеро Х. И. (Арг)</div>
<div class="event__score event__score--home">1</div>
<div class="event__score event__score--away">2</div>
<div class="event__part event__part--home event__part--1">6</div>
<div class="event__part event__part--away event__part--1">3</div>
<div class="event__part event__part--home event__part--2">2</div>
<div class="event__part event__part--away event__part--2">6</div>
<div class="event__part event__part--home event__part--3">3</div>
<div class="event__part event__part--away event__part--3">6</div>
</div>
<div id="g_2_6TV1NrJg" title="Подробности матча!" class="event__match event__match--twoLine">
<div class="event__check"></div>
<div class="event__stage">Завершен</div>
<div class="event__participant event__participant--home fontBold">Дэниел Т. (Япо)</div>
<div class="event__participant event__participant--away">Сандгрен Т. (Сша)</div>
<div class="event__score event__score--home">2</div>
<div class="event__score event__score--away">0</div>
<div class="event__part event__part--home event__part--1">6</div>
<div class="event__part event__part--away event__part--1">2</div>
<div class="event__part event__part--home event__part--2">6</div>
<div class="event__part event__part--away event__part--2">0</div>
</div>
<div class="event__header">
<div class="event__check"></div>
<div class="icon--flag event__title fl_3473164">
<div class="event__titleBox"><span class="event__title--type">WTA - ОДИНОЧНЫЙ РАЗРЯД</span><span class="event__title--name" title="Вашингтон (США), хард">Вашингтон (США), хард</span></div><span class="toggleMyLeague 2_9012_xnxlobHB"></span>
</div><a href="#" class="event__info active">Сетка</a>
<div class="event__expander icon--expander collapse" title="Скрыть все игры этого турнира!"></div>
</div>
<div id="g_2_KIfatMzg" title="Подробности матча!" class="event__match event__match--twoLine">
<div class="event__check"></div>
<div class="event__stage">Завершен</div>
<div class="event__participant event__participant--home fontBold">Дияс З. (Каз)</div>
<div class="event__participant event__participant--away">Gauff C. (Сша)</div>
<div class="event__score event__score--home">2</div>
<div class="event__score event__score--away">0</div>
<div class="event__part event__part--home event__part--1">6</div>
<div class="event__part event__part--away event__part--1">4</div>
<div class="event__part event__part--home event__part--2">6</div>
<div class="event__part event__part--away event__part--2">2</div>
</div>
<div id="g_2_tSees2Ln" title="Подробности матча!" class="event__match event__match--twoLine">
<div class="event__check"></div>
<div class="event__stage">Завершен</div>
<div class="event__participant event__participant--home">Викери С. (Сша)</div>
<div class="event__participant event__participant--away fontBold">Джорджи К. (Ита)</div>
<div class="event__score event__score--home">0</div>
<div class="event__score event__score--away">2</div>
<div class="event__part event__part--home event__part--1">2</div>
<div class="event__part event__part--away event__part--1">6</div>
<div class="event__part event__part--home event__part--2">5</div>
<div class="event__part event__part--away event__part--2">7</div>
</div>
</div></code>
|
Нужные Вам элементы, а именно лига и её матчи, находятся на одном уровне в <code>
DOM</code>.
Благодаря этому, их можно легко перебирать, используя метод <code>
find_next_sibling</code>.
Данный метод возвращает следующий указанный элемент, находящийся на том же уровне.
Осталось лишь различить элементы, которые возвращаются методом, на принадлежность к лиге или матчу.
Это довольно легко сделать с помощью проверки атрибута <code>
class</code>.
В итоге у меня получилась функция <code>
parse</code>, которая возвращает список словарей вида:
<code>
[
{
'league': 'ATP - ОДИНОЧНЫЙ РАЗРЯД',
'participants': [
'Тиафо Ф. (Сша)',
'Бублик А. (Каз)'
]
},
{
'league': 'WTA - ОДИНОЧНЫЙ РАЗРЯД',
'participants': [
'Викери С. (Сша)',
'Джорджи К. (Ита)'
]
}
]
</code>
Код:
<code>
from bs4 import BeautifulSoup
def parse(html: str) -> list:
soup = BeautifulSoup(html, 'lxml')
matches = []
sibling = soup.find('div', {'class': 'event__header'})
while sibling:
if sibling['class'] == ['event__header']:
title = sibling.find('span', {'class': 'event__title--type'}).getText()
else:
participant_1 = sibling.find('div', {'class': 'event__participant'})
participant_2 = participant_1.find_next_sibling('div')
matches.append({'league': title, 'participants': [participant_1.getText(), participant_2.getText()]})
sibling = sibling.find_next_sibling('div')
return matches
if __name__ == '__main__':
with open('page.html', encoding='utf-8') as f:
html = f.read()
matches = parse(html)
for match in matches:
print(
f"------------------------\n"
f"{match['league']}\n"
f"------------------------\n"
f"{match['participants'][0]}\n"
f"{match['participants'][1]}"
)
</code>
stdout:
<code>
------------------------
ATP - ОДИНОЧНЫЙ РАЗРЯД
------------------------
Тиафо Ф. (Сша)
Бублик А. (Каз)
------------------------
ATP - ОДИНОЧНЫЙ РАЗРЯД
------------------------
Эдмунд К. (Вел)
Харрис Дж. (Южн)
------------------------
ATP - ОДИНОЧНЫЙ РАЗРЯД
------------------------
Рублёв А. (Рос)
Гоёвчик П. (Гер)
------------------------
ATP - ОДИНОЧНЫЙ РАЗРЯД
------------------------
Цонга Ж. (Фра)
Хачанов К. (Рос)
------------------------
ITF - ОДИНОЧНЫЙ РАЗРЯД
------------------------
Шарди Ж. (Фра)
Лайович Д. (Сер)
------------------------
ITF - ОДИНОЧНЫЙ РАЗРЯД
------------------------
Рууд К. (Нор)
Бахингер М. (Гер)
------------------------
ITF - ОДИНОЧНЫЙ РАЗРЯД
------------------------
Рамос А. (Исп)
Муньяр Х. (Исп)
------------------------
ITF - ОДИНОЧНЫЙ РАЗРЯД
------------------------
Новак Д. (Авт)
Куэвас П. (Уру)
------------------------
ЧЕЛЕНДЖЕР - ОДИНОЧНЫЙ РАЗРЯД
------------------------
Типсаревич Я. (Сер)
Албот Р. (Мол)
------------------------
ЧЕЛЕНДЖЕР - ОДИНОЧНЫЙ РАЗРЯД
------------------------
Гарин К. (Чил)
Лондеро Х. И. (Арг)
------------------------
ЧЕЛЕНДЖЕР - ОДИНОЧНЫЙ РАЗРЯД
------------------------
Дэниел Т. (Япо)
Сандгрен Т. (Сша)
------------------------
WTA - ОДИНОЧНЫЙ РАЗРЯД
------------------------
Дияс З. (Каз)
Gauff C. (Сша)
------------------------
WTA - ОДИНОЧНЫЙ РАЗРЯД
------------------------
Викери С. (Сша)
Джорджи К. (Ита)
</code>
|
21,681 | Анализ кортежа по трем величинам
Есть кортеж
<code>
data = [['Id-a', '№1', 2.0], ['Id-b', '№1', 4.0], ['Id-b', '№2', 3.0],
['Id-a', '№1', 6.0], ['Id-a', '№2', 2.0], ['Id-c', '№1', 9.0],
['Id-b', '№2', 1.0], ['Id-c', '№2', 7.0], ['Id-b', '№2', 5.0], ['Id-c', '№1', 2.0]]
</code>
Id, принадлежность к группе и число. Необходимо сложить числа в одинаковых группах и Id и вывести в следующем виде:
<code>
['Id-a', '№1', 8.0]
['Id-a', '№2', 2.0]
['Id-b', '№1', 4.0]
['Id-b', '№2', 9.0]
['Id-c', '№1', 11.0]
['Id-c', '№2', 7.0]]
</code>
Получилось суммировать значения только по Id:
<code>
# создаю список id
id=[]
for r in data:
id.append(r[0])
# суммирую числа по id
res =[]
for k in set(id):
summ = 0
for s in data:
if k==s[0]:
summ = summ + s[2]
t = [k, summ]
res.append(t)
print (res)
# [['Id-a', 10.0], ['Id-b', 13.0], ['Id-c', 18.0]]
</code>
Как дополнить код, чтобы суммировать числа по Id и группам?
|
Воспользуйтесь itertools.groupby():
<code>
In [42]: from itertools import groupby
In [43]: res = [[c[0], c[1], sum(z[2] for z in g)]
for c,g in groupby(sorted(data), key=lambda x: x[:2])]
In [44]: res
Out[44]:
[['Id-a', '№1', 8.0],
['Id-a', '№2', 2.0],
['Id-b', '№1', 4.0],
['Id-b', '№2', 9.0],
['Id-c', '№1', 11.0],
['Id-c', '№2', 7.0]]
</code>
|
21,682 | Как достать данные из скобок?
Работаю с БД SQLite. При запросе даются данные, но они в скобках.
Kак мне достать данные из скобок? Ну или, как их убрать, эти скобки?
<code>
def listMembers():
import sqlite3
Connect = sqlite3.connect("CaptureBotDB.db")
Cursor = Connect.cursor()
mess = 'Список пользователей беседы:\n\n'
for row in Cursor.execute("SELECT first_name, last_name FROM ListMembers"):
mb = row
mess += str(mb) + '\n'
vk.messages.send(
chat_id=chat_id,
message=mess,
)
</code>
|
Пример:
<code>
conn = sqlite3.connect("CaptureBotDB.db")
cur = conn.cursor()
cur.execute("SELECT first_name, last_name FROM ListMembers")
for first, last in cur.fetchall():
print(f"first_name:\t{first}\tlast_name:\t{last}")
</code>
<code>
first_name: Max last_name: Mustermann
first_name: John last_name: Doe
first_name: Иван last_name: Иванов
</code>
<code>
cur.fetchall()</code> возвращает список кортежей. Соответственно можно также обрабатывать его так:
<code>
for row in cur.fetchall():
print(f"first_name:\t{row[0]}\tlast_name:\t{row[1]}")
</code>
|
21,683 | Получение и суммирование Timedelta
Дано: список пар числовых значений, в котором значение <code>
[0]</code> означает индекс в таблице, с которого начинается некий процесс, а индекс <code>
[1]</code>- индекс конца процесса. Этим индексам, конечно, соответствует запись в столбце <code>
['Время']</code>
Задача: 1) получить <code>
timedelta</code>-объект равный времени между <code>
Timestamp</code> индекса<code>
[1]</code> и <code>
[0]</code>
2) Получить сумму таких <code>
timedelta</code> - то есть выяснить суммарное время некоего процесса.
Желаемый результат примерно описан в документации:
<code>
import datetime
import pandas as pd
import numpy as np
dti = pd.to_datetime(['1/1/2018',
np.datetime64('2018-01-01'),datetime.datetime(2018, 1, 1)])
dti = pd.date_range('2018-01-01', periods=10, freq='4H')
dti = dti.tz_localize('UTC')
t1 = dti[3:5]-dti[1:3]
t2 = t1
print(type(t1))
sum(t1,datetime.timedelta())
>>> <class 'pandas.core.indexes.timedeltas.TimedeltaIndex'>
Timedelta('0 days 16:00:00')
</code>
Очевидно, что в таком формате не представляет проблемы выполнить поэлементное вычитание срезов одинакового размера.
Теперь применяю подход к реальной задаче, но не выходит.
Код:
<code>
def all_pattern_times(data, conditions, eps):
# total_time - принимает значение, равное разности
# времени последнего и первого замера
total_time = data['Время'].iloc[-1]-data['Время'].iloc[0]
print(total_time, type(total_time))
# обход идет по количеству интересующих процессов:....
for condition1, condition2 in list(zip(conditions['conditions1'], conditions['conditions2'])):
# Список с парами индексов, обозначающих начало и конец проявления конкретного процесса, он приходит из другой функции
times = np.array(pattern_time(data, condition1, condition2, eps))
try:
print(data['Время'].iloc[times[3:5, 1]]-data['Время'].iloc[times[3:5, 0]] , type(data['Время'].iloc[times[3, 0]]))
# print(sum(data['Время'][times[:, 1]] - data['Время'][times[:, 0]],datetime.timedelta()))
out.append(round(sum(data['Время'].iloc[times[:, 1]] - data['Время'].iloc[times[:, 0]],datetime.timedelta()) / total_time * 100, 2))
except IndexError:
out.append(0)
return out
</code>
И вот какой результат:
<code>
202 days 00:00:00 <class 'pandas._libs.tslibs.timedeltas.Timedelta'>
6151 NaT
6172 NaT
6554 NaT
6568 NaT
Name: Время, dtype: timedelta64[ns] <class 'pandas._libs.tslibs.timestamps.Timestamp'>
7500 NaT
7525 NaT
8173 NaT
8178 NaT
Name: Время, dtype: timedelta64[ns] <class 'pandas._libs.tslibs.timestamps.Timestamp'>
1737 NaT
2572 NaT
2874 NaT
2969 NaT
Name: Время, dtype: timedelta64[ns] <class 'pandas._libs.tslibs.timestamps.Timestamp'>
12562 NaT
12574 NaT
12857 NaT
13110 NaT
Name: Время, dtype: timedelta64[ns] <class 'pandas._libs.tslibs.timestamps.Timestamp'>
</code>
Я капитально зарылся в типах переменных, С единичными индексами типа <code>
data['Время'].iloc[times[4, 1]] - data['Время'].iloc[times[4, 0]]</code> все работает, а со срезами уже нет.
В результате хочу поделить сумму временных отрезков, когда проявлялся процесс, на общее время работы оборудования. Но не могу сумму этих временных отрезков
<code>
Пример данных (data):
x1 x2 x3 Время \
0 0.0 0.0 65.51 2018-12-01 00:00:00.000
1 1.0 1.0 65.49 2018-12-01 00:15:00.000
2 2.0 2.0 NaN 2018-12-01 00:25:33.000
3 3.0 3.0 65.44 2018-12-01 00:29:59.997
4 4.0 4.0 65.37 2018-12-01 00:45:00.000
5 5.0 5.0 NaN 2018-12-01 00:48:04.997
6 6.0 6.0 65.35 2018-12-01 01:00:00.000
7 7.0 7.0 NaN 2018-12-01 01:06:06.000
8 8.0 8.0 65.29 2018-12-01 01:14:59.997
9 9.0 9.0 65.20 2018-12-01 01:30:00.000
10 10.0 10.0 NaN 2018-12-01 01:34:58.000
11 11.0 11.0 65.14 2018-12-01 01:45:00.000
12 12.0 12.0 NaN 2018-12-01 01:55:21.997
13 13.0 13.0 65.09 2018-12-01 01:59:59.997
14 14.0 14.0 65.05 2018-12-01 02:15:00.000
15 15.0 15.0 NaN 2018-12-01 02:16:22.000
16 16.0 16.0 65.01 2018-12-01 02:30:00.000
17 17.0 17.0 NaN 2018-12-01 02:36:18.000
18 18.0 18.0 64.97 2018-12-01 02:44:59.997
19 19.0 19.0 NaN 2018-12-01 02:55:12.000
x4 x5 x6 \
0 28.36 NaN 28.14
1 28.26 NaN 28.16
2 NaN NaN NaN
3 28.27 NaN 28.16
4 28.34 NaN 28.13
5 NaN NaN NaN
6 28.46 NaN 28.12
7 NaN NaN NaN
8 28.81 NaN 28.51
9 28.69 NaN 28.55
10 NaN NaN NaN
11 28.55 NaN 28.51
12 NaN NaN NaN
13 28.55 NaN 28.48
14 28.76 NaN 28.55
15 NaN NaN NaN
16 28.64 NaN 28.56
17 NaN NaN NaN
18 28.75 NaN 28.56
19 NaN NaN NaN
x7 x8 x9 x10 x11 \
0 27.052355 ост. NaN NaN NaN
1 26.938015 NaN NaN NaN NaN
2 26.910000 NaN NaN NaN NaN
3 26.945633 NaN NaN NaN NaN
4 26.983747 NaN NaN NaN NaN
5 27.050000 NaN NaN NaN NaN
6 27.117147 NaN NaN NaN NaN
7 27.260000 NaN NaN NaN NaN
8 27.433487 NaN NaN NaN NaN
9 27.292465 NaN NaN NaN NaN
10 27.390000 NaN NaN NaN NaN
11 27.235298 NaN NaN NaN NaN
12 27.080000 NaN NaN NaN NaN
13 27.231483 NaN NaN NaN NaN
14 27.448730 NaN NaN NaN NaN
15 27.470000 NaN NaN NaN NaN
16 27.334389 NaN NaN NaN NaN
17 27.300000 NaN NaN NaN NaN
18 27.406807 NaN NaN NaN NaN
19 27.300000 NaN NaN NaN NaN
x12 x13 x14
0 NaN 0 0
1 NaN 0 0
2 NaN 0 0
3 NaN 0 0
4 NaN 0 0
5 NaN 0 0
6 NaN 0 0
7 NaN 0 0
8 NaN 0 0
9 NaN 0 0
10 NaN 0 0
11 NaN 0 0
12 NaN 0 0
13 NaN 0 0
14 NaN 0 0
15 NaN 0 0
16 NaN 0 0
17 NaN 0 0
18 NaN 0 0
19 NaN 0 0
Список пар индексов начала и конца (times):
[[ 1 3]
[ 5 6]
[9 10]
[15 17]
[18 19]]
</code>
|
если я правильно понял задачу:
<code>
In [65]: df
Out[65]:
x1 x2 x3 Время
0 0.0 0.0 65.51 2018-12-01 00:00:00.000
1 1.0 1.0 65.49 2018-12-01 00:15:00.000
2 2.0 2.0 NaN 2018-12-01 00:25:33.000
3 3.0 3.0 65.44 2018-12-01 00:29:59.997
4 4.0 4.0 65.37 2018-12-01 00:45:00.000
.. ... ... ... ...
15 15.0 15.0 NaN 2018-12-01 02:16:22.000
16 16.0 16.0 65.01 2018-12-01 02:30:00.000
17 17.0 17.0 NaN 2018-12-01 02:36:18.000
18 18.0 18.0 64.97 2018-12-01 02:44:59.997
19 19.0 19.0 NaN 2018-12-01 02:55:12.000
[20 rows x 4 columns]
In [66]: intervals = np.array(
...: [[ 1, 3],
...: [ 5, 6],
...: [9, 10],
...: [15, 17],
...: [18, 19]])
</code>
<code>
In [67]: res = pd.Series([df.loc[a:b, "Время"].max() - df.loc[a:b, "Время"].min() for a,b in intervals]).sum()
</code>
результат:
<code>
In [68]: res
Out[68]: Timedelta('0 days 01:02:01.003000')
</code>
|
21,684 | нужно ли высшее образование, курсы, и другие формальные подтверждения профессионализма? [закрыт]
Закрыт. На этот вопрос невозможно дать объективный ответ. Ответы на него в данный момент не принимаются.
Хотите улучшить этот вопрос? Переформулируйте вопрос так, чтобы на него можно было дать ответ, основанный на фактах и цитатах.
Закрыт 4 года назад.
Улучшить вопрос
Тяготею к самообучению при помощи различных книг и интерактива. Мне 20 лет, образование средне-специальное юридическое; начинаю, как и многие, с языка python, хотел бы стать back end разработчиком. Собственно, вопрос - смогу ли я вообще дойти до стадии собеседования, где смог бы показать свои компетенции , если эйчар не увидит у меня сертификатов с курсов, высшего образования или хотя бы образования c технической направленностью? Стоит ли получать такое формальное подтверждение чтобы войти в it? Всем спасибо
|
смогу ли я вообще дойти до стадии собеседования, где смог бы показать
свои компетенции , если эйчар не увидит у меня сертификатов с курсов,
высшего образования или хотя бы образования c технической
направленностью? Стоит ли получать такое формальное подтверждение
чтобы войти в it?
Сможете. Для работодателя главное, что Вы умеете делать. Да и не в каждой конторе хватают звёзды с неба.
Другое дело, что с профильным образованием шансы получить хорошую работу намного выше. Да и работать будет проще. Всё-таки образование даёт системные знания, плюс многое из того, что Вам в процессе учёбы будут говорить не доступно для тех, кто полностью полагается на самообучение. Просто в большинстве книг и тем более видеокурсов нет даже отсылок к этим вещам, хотя это фундаментальные вещи без которых делать серьёзные проекты ой как тяжело.
Также не стоит забывать, что в процессе обучения (обычно в ВУЗе или колледже) может быть организована практика, на которой можно получить пусть начальный, но всё же навык участия в реальном проекте.
Кроме того корочка как бы там ни было говорит о том, что Вы в профессии уже не случайный человек. Без неё в глазах HR Вы будете просто очередным человеком с улицы. Со всеми вытекающими отсюда последствиями.
Да Вы и сами рано или поздно почувствуете, что при прочих равных, Вам не будет хватать самых обычных "институтских" знаний.
|
21,685 | Почему RF модель показала точность 0%?
Имеется фрейм
Составлен некоторый код обработки данных и обучена модель.
Обучающая выборка дает некоторый результат, тестовая выборка дает 0%.
<code>
import pandas as pd
import matplotlib.pyplot as plt
import seaborn as sns
import numpy as np
from scipy.stats import norm
from sklearn.preprocessing import StandardScaler
from scipy import stats
import warnings
warnings.filterwarnings('ignore')
get_ipython().run_line_magic('matplotlib', 'inline')
# In[34]:
df_train = pd.read_csv('D:\___/train.csv')
# In[35]:
df_train.info()
df_train.columns
# In[36]:
fig, ax = plt.subplots(figsize=(15,15))
sns.heatmap(df_train.corr(), cmap= sns.color_palette(palette="RdBu"),linewidths=0.5,annot=False, ax=ax)
# In[37]:
df_train.corr
# In[38]:
df_train['SalePrice'].describe()
# In[39]:
sns.distplot(df_train['SalePrice']);
# In[40]:
print("Skewness: %f" % df_train['SalePrice'].skew())
print("Kurtosis: %f" % df_train['SalePrice'].kurt())
# In[41]:
var = 'GrLivArea'
data = pd.concat([df_train['SalePrice'], df_train[var]], axis=1)
data.plot.scatter(x=var, y='SalePrice', ylim=(0,800000));
# In[42]:
var = 'TotalBsmtSF'
data = pd.concat([df_train['SalePrice'], df_train[var]], axis=1)
data.plot.scatter(x=var, y='SalePrice', ylim=(0,800000));
# In[43]:
var = 'OverallQual'
data = pd.concat([df_train['SalePrice'], df_train[var]], axis=1)
f, ax = plt.subplots(figsize=(8, 6))
fig = sns.boxplot(x=var, y="SalePrice", data=data)
fig.axis(ymin=0, ymax=800000);
# In[44]:
fig, ax = plt.subplots(figsize=(15,15))
corrmat = df_train.corr()
k = 16 #number of variables for heatmap
cols = corrmat.nlargest(k, 'SalePrice')['SalePrice'].index
cm = np.corrcoef(df_train[cols].values.T)
sns.set(font_scale=1.25)
hm = sns.heatmap(cm, cbar=True, annot=True, square=True, fmt='.2f', annot_kws={'size': 16}, yticklabels=cols.values, xticklabels=cols.values, ax=ax)
plt.show()
# In[45]:
sns.set()
cols = ['SalePrice', 'OverallQual', 'GrLivArea', 'GarageCars', 'TotalBsmtSF', 'FullBath', 'YearBuilt']
sns.pairplot(df_train[cols], size = 2.5)
plt.show();
# In[46]:
total = df_train.isnull().sum().sort_values(ascending=False)
percent = (df_train.isnull().sum()/df_train.isnull().count()).sort_values(ascending=False)
missing_data = pd.concat([total, percent], axis=1, keys=['Total', 'Percent'])
missing_data.head(20)
# In[47]:
df_train = df_train.drop((missing_data[missing_data['Total'] > 1]).index,1)
df_train = df_train.drop(df_train.loc[df_train['Electrical'].isnull()].index)
df_train.isnull().sum().max()
# In[48]:
saleprice_scaled = StandardScaler().fit_transform(df_train['SalePrice'][:,np.newaxis]);
low_range = saleprice_scaled[saleprice_scaled[:,0].argsort()][:10]
high_range= saleprice_scaled[saleprice_scaled[:,0].argsort()][-10:]
print('outer range (low) of the distribution:')
print(low_range)
print('\nouter range (high) of the distribution:')
print(high_range)
# In[49]:
var = 'GrLivArea'
data = pd.concat([df_train['SalePrice'], df_train[var]], axis=1)
data.plot.scatter(x=var, y='SalePrice', ylim=(0,800000));
# In[50]:
df_train.sort_values(by = 'GrLivArea', ascending = False)[:2]
# In[51]:
df_train = df_train.drop(df_train[df_train['Id'] == 1299].index)
df_train = df_train.drop(df_train[df_train['Id'] == 524].index)
# In[52]:
var = 'GrLivArea'
data = pd.concat([df_train['SalePrice'], df_train[var]], axis=1)
data.plot.scatter(x=var, y='SalePrice', ylim=(0,800000));
# In[53]:
var = 'TotalBsmtSF'
data = pd.concat([df_train['SalePrice'], df_train[var]], axis=1)
data.plot.scatter(x=var, y='SalePrice', ylim=(0,800000));
# In[54]:
sns.distplot(df_train['SalePrice'], fit=norm);
fig = plt.figure()
# In[55]:
res = stats.probplot(df_train['SalePrice'], plot=plt)
# In[56]:
df_train['SalePrice'] = np.log(df_train['SalePrice'])
# In[57]:
sns.distplot(df_train['SalePrice'], fit=norm);
fig = plt.figure()
# In[58]:
res = stats.probplot(df_train['SalePrice'], plot=plt)
# In[59]:
df_train['HasBsmt'] = pd.Series(len(df_train['TotalBsmtSF']), index=df_train.index)
df_train['HasBsmt'] = 0
df_train.loc[df_train['TotalBsmtSF']>0,'HasBsmt'] = 1
# In[60]:
df_train.loc[df_train['HasBsmt']==1,'TotalBsmtSF'] = np.log(df_train['TotalBsmtSF'])
# In[61]:
sns.distplot(df_train[df_train['TotalBsmtSF']>0]['TotalBsmtSF'], fit=norm);
fig = plt.figure()
res = stats.probplot(df_train[df_train['TotalBsmtSF']>0]['TotalBsmtSF'], plot=plt)
# In[62]:
df_train.info()
# In[70]:
data_features = df_train.drop("Id", axis = 1)
X, y = df_train.drop (["SalePrice"], axis = 1), df_train["SalePrice"]
FF = pd.get_dummies(X)
# In[76]:
# In[80]:
from sklearn.model_selection import train_test_split
# In[92]:
Xnp = np.array(FF)
ynp = np.array(y)
X_train, X_test, y_train, y_test = train_test_split (Xnp, ynp, test_size=0.5)
print(FF.shape, X_train.shape, X_test.shape)
print(y.shape, y_train.shape, y_test.shape)
# In[90]:
from sklearn import preprocessing
lab_enc = preprocessing.LabelEncoder() #выдавало ValueError: Unknown label type: ‘continuous’
tse = lab_enc.fit_transform(y_train)
from sklearn.ensemble import RandomForestClassifier
model = RandomForestClassifier()
model.fit (X_train, tse)
# In[91]:
print ("Train accuracy:", (model.predict(X_train) == tse).mean())
print ("Val accuracy:", (model.predict(X_test) == y_test).mean())
</code>
|
Похоже проблема в том, что вы пытаетесь использовать алгоритм классификации (которые предсказывают дискретные значения) для предсказания непрерывных данных (таких как цена).
Для таких задач надо использовать один из алгоритмов регрессии.
|
21,686 | Почему True != False => False
Написал простой код с функцией исключающего или, которая возвращает значение bool.
<code>
def xor(x, y):
return x != y
if xor(bool(input()), bool(input())):
print(1)
else:
print(0)
</code>
При этом значение функции всегда False
Но например 1 != 0, должно выйти True
Почему так происходит и чего я не понимаю?
|
Если хотите работать с числами, то конвертируйте значения <code>
input()</code> в числа:
<code>
def xor(x, y):
return x != y
if xor(bool(int(input())), bool(int(input()))):
print(1)
else:
print(0)
</code>
Преобразование непустой строки к <code>
bool</code> всегда даёт <code>
True</code>. А вот преобразование к <code>
bool</code> числа выдаст <code>
False</code>, если будет передан <code>
0</code>.
Если же Вы хотите подавать на вход для сравнения чистые строки, уберите преобразование к <code>
bool</code>.
|
21,688 | Импорт класса из модуля
Написал класс, импортирую его в другой Python файл. Однако после импорта в результате выдается <code>
<class '__example__.ExampleClass'></code>. Как его правильно обозначить, чтобы вывод был корректным.
Пример класса:
<code>
class Alpha(object):
def __init__(self):
self.cross()
def cross(self):
print('Hello World')
if __name__ == '__main__':
attribute = Alpha()
</code>
Импорт:
<code>
import __example__ as ex
print(ex.Alpha)
</code>
Результат:
<code>
<class '__example__.ExampleClass'></code>
|
Если я всё правильно понял в вопросе, автор хочет, чтобы сработал метод <code>
__init__</code> класса. Для этого необходимо создать объект.
<code>
import __example__ as ex
obj = ex.Alpha()
</code>
Однако хотелось бы заметить, что строка, выводимая при создании объекта (т.е. при срабатывании метода <code>
__init__</code>), отнюдь не является содержимым класса (если закрыть глаза на сомнительность самого термина). Чтобы наделить класс, а точнее его объект, каким-либо "содержимым", стоит, по крайней мере, определить его свойство. Я бы сделал это как-то так:
<code>
class Alpha(object):
content = 'Hello world'
def get_content(self):
return content
</code>
Тогда второй файл выглядел бы так:
<code>
import __example__ as ex
obj = ex.Alpha()
print(obj.get_content())
</code>
|
21,689 | Как построить запрос к бд django
Суть вот в чем: Есть магазин, на странице поиска товаров есть фильтр по сезонам. Пользователь может выбрать один из четырех сезонов, может выбрать несколько, а может вообще не выбрать ни одного. Как во вьюхе сделать так, чтобы django фильтровала товары из бд по всем указаным сезонам, если они указаны, а если не указаны то вообще не учитывала этот параметр? Или подскажите хотя бы: в какую сторону гуглить?
|
<code>
Product.object.filter(filter_seasons and Q(season__in=filter_seasons) or Q())
# или
res = Product.objects.all()
if form.cleaned_data['filtered_seasons']:
res = res.filter(season__in=form.cleaned_data['filtered_seasons'])
</code>
PS: Присылайте хоть какую то часть кода, иначе вопрос отправят на доработку из-за недостатка информации для ответа
|
21,691 | Присвоение в python
я новичок в <code>
python</code>. Увидел такой код:
a, b = c
Что это значит? Я знаю что поменять местами это a, b = b, a. А что значит то, что я написал?
|
<code>
a, b = b, a
</code>
Семантически эквивалентно следующей записи
<code>
(a, b) = (b, a)
</code>
Т.е. слева имеем кортеж переменных, которым будем присваивать значения, справа - кортеж присваиваемых значений.
В вашем случае <code>
c</code> справа должен быть списком, кортежем или другим итерируемым типом, содержащим ровно два элемента, например
<code>
c = (b, a)
a, b = c
</code>
что очень приблизительно соответствует следующей последовательности действий
<code>
c = (b, a)
a = c[0]
b = c[1]
</code>
Стоит добавить, что левая часть выражения настоящим кортежем не является, это просто часть синтаксиса множественного присваивания, и она может быть гораздо сложнее, например:
<code>
>>> [*a, (b, *c)] = (1, 2, 3, (4, 5, 6))
>>> a
[1, 2, 3]
>>> b
4
>>> c
[5, 6]
</code>
|
21,692 | Объединить заголовки столбцов в pandas
Есть условная таблица которую экспортирую из pandas в excel. Выглядит она примерно так:
Возможно ли в pandas объединить только названия столбцов по типу. Чтобы при экспорте в excel она выглядела таким образом?
|
В общем случае мы можете применить метод multiindex к колонкам так же, как и к индексу:
<code>
df = pd.DataFrame(np.random.randn(4, 4), columns=['a','b','c','z']) # генерируем df
# для примера
a b c z
0 0.530421 -0.552079 -0.710845 0.709165
1 1.303415 1.537050 -1.491708 -0.290332
2 -0.705289 -0.026359 -1.791948 -0.162700
3 0.926152 -0.650124 -0.428592 -0.423194
</code>
и делаем мультииндекс для столбцов:
<code>
arrays = [['устройство', 'устройство', 'устройство', 'место'], df.columns]
df.columns = pd.MultiIndex.from_arrays(arrays)
устройство место
a b c z
0 0.530421 -0.552079 -0.710845 0.709165
1 1.303415 1.537050 -1.491708 -0.290332
2 -0.705289 -0.026359 -1.791948 -0.162700
3 0.926152 -0.650124 -0.428592 -0.423194
</code>
|
21,693 | Замена каждого вхождения на символ
Есть большой объем текста(строка), в котором встречаются цифры в скобках и без. Необходимо заменить цифры в скобках на символы, можно и сами скобки,например, х.
<code>
Ввод: 1 Для начала огляжусь (99) подойду к двери (117).
Вывод:1 Для начала огляжусь хххх подойдук двери ххххх.
</code>
<code>
pagetext = re.sub('\([\d]*\)','x', pagetext)
</code>
Заменяет весь блок на один символ.
|
Вместо текста для замены можно указать функцию, это даст большую свободу действий
<code>
pagetext = re.sub(r'\(\d+\)', lambda match: 'x' * len(match.group()), pagetext)
</code>
|
21,694 | NLTK stoplist удаляет не все слова
Возникла проблема при тематическом моделирование. Из исходного текста требуется удалить лишние слова. Для этих целей использую nltk и его корпус brown следующим образом:
<code>
from nltk.corpus import brown
stop_words= nltk.corpus.stopwords.words('russian')
newStopWords = ['это', 'ты', 'просто']
stop_words.extend(newStopWords)
</code>
Все работает и добавленные мною слова удаляются из итогового мешка слов, но некоторые слова он в упор пропускает! Слово "такой" самое частое слово, которое есть в тексте и он не хочет его удалять. Это слово есть в основном корпусе, также я пробовал его добавлять отдельно, но оно все равно остается. Это не единственное проблемное слово. Из примера выше, слова "это" и "просто" отлично удалились из текста, а слово "ты" осталось.
Удаление слов и символов происходит следующим образом:
<code>
word=nltk.word_tokenize(text)
word_ws=[w.lower() for w in word if w.isalpha()]
word_w=[w for w in word_ws if w not in stop_words]
lem = mystem . lemmatize ((' ').join(word_w))
lema=[w for w in lem if w.isalpha() and len(w)>1]
freq=nltk.FreqDist(lema)
</code>
Далее идет лемматизация и дальнейшее распределение слов по частоте употребления.
В чем может быть проблема? Почему он пропускает некоторые слова, а на некоторые реагирует?
Небольшой кусочек первоначальных данных. На само содержание не смотрите, ибо это социологический проект и это одни из тысячи комментариев из разных пабликов.
<code>
Переменная text:
@igoralexandrovich83 а ты такой? Что твоя советь позволяет тебе гонять без правил?
И что тут такого ? Такой ор
Вытянул передний привод
@romchi_k 100%
@potapovv.a 🤦🏾♂️
</code>
Проблема решается удалением слов из стоп-списка уже после лемматизации. Так как в противном случае другие формы этого слова, очевидно, вылезут после лемматизации.
|
Не могу воспроизвести описанное поведение.
Пример:
<code>
text = """@igoralexandrovich83 а ты такой? Что твоя советь позволяет тебе гонять без правил?
И что тут такого ? Такой ор
Вытянул передний привод
@romchi_k 100%
@potapovv.a 🤦🏾♂️"""
word=nltk.word_tokenize(text)
word_ws=[w.lower() for w in word if w.isalpha()]
word_w=[w for w in word_ws if w not in stop_words]
</code>
результат:
<code>
In [75]: word_w
Out[75]:
['твоя',
'советь',
'позволяет',
'тебе',
'гонять',
'правил',
'такого',
'ор',
'вытянул',
'передний',
'привод']
</code>
Как видно из примера, все стоп-слова были удалены.
|
21,695 | Как реализовать эту программу в Python-е? [закрыт]
Закрыт. Этот вопрос не по теме. Ответы на него в данный момент не принимаются.
Учебные задания допустимы в качестве вопросов только при условии, что вы пытались решить их самостоятельно перед тем, как задать вопрос. Пожалуйста, отредактируйте вопрос и укажите, что именно вызвало у вас трудности при решении задачи. Например, приведите код, который вы написали, пытаясь решить задачу
Закрыт 4 года назад.
Улучшить вопрос
Дан набор из N неотрицательных целых чисел, меньших 1000. Для каждого числа вычисляется сумма цифр его десятичной записи. Необходимо определить, какая сумма цифр чаще всего встречается у чисел этого набора. Если таких сумм несколько, нужно вывести наименьшую из них. Напишите эффективную по времени и по памяти программу для решения этой задачи. Программа считается эффективной по времени, если при увеличении количества исходных чисел N в k раз время работы программы увеличивается не более чем в k раз. Программа считается эффективной по памяти, если память, необходимая для хранения всех переменных программы, не превышает одного килобайта и не увеличивается с ростом N.
Максимальная оценка за правильную (не содержащую синтаксических ошибок и дающую правильный ответ при любых допустимых входных данных) программу, эффективную по времени и по памяти, — 4 балла.
Максимальная оценка за правильную программу, эффективную только по времени или только по памяти, — 3 балла.
Максимальная оценка за правильную программу, не удовлетворяющую требованиям эффективности, — 2 балла.
Вы можете сдать одну или две программы решения задачи. Если Вы сдадите две программы, каждая из них будет оцениваться независимо от другой, итоговой станет бо́льшая из двух оценок. Перед текстом программы кратко опишите алгоритм решения. Укажите использованный язык программирования и его версию.
|
Ну что же вы? Разбивайте задачу на части и пишите код для каждой из них.
Дан набор из N неотрицательных целых чисел, меньших 1000. Для каждого числа вычисляется сумма цифр его десятичной записи.
<code>
def digit_sum(number: str) -> int:
return sum(map(int, number))
</code>
Необходимо определить, какая сумма цифр чаще всего встречается у чисел этого набора.
Находим количества всех сумм:
<code>
def get_counts(numbers: List[str]) -> List[int]:
counts = [0] * 28
for v in numbers:
counts[digit_sum(v)] += 1
return counts
</code>
Т.к на входе числа менее тысячи, то наибольшая сумма = 9+9+9, наименьшая 0, итого 28 возможных вариантов, каждому из которых соответствует своя позиция в списке, а в значении хранится количество соответствующих сумм.
Далее выбираем наиболее частую сумму с наименьшим значением:
<code>
def min_most_freq(counts: List[int]) -> int:
best_i = -1
best_v = -1
for i, v in enumerate(counts):
if v > best_v:
best_i, best_v = i, v
return best_i
</code>
Если таких сумм несколько, нужно вывести наименьшую из них.
Это достигается тем, что алгоритм обрабатывает значения от меньших к большим, а новые суммы с частотой, равной текущей наибольшей, отвергаются.
Напишите эффективную по времени и по памяти программу для решения этой задачи. Программа считается эффективной по времени, если при увеличении количества исходных чисел N в k раз время работы программы увеличивается не более чем в k раз. Программа считается эффективной по памяти, если память, необходимая для хранения всех переменных программы, не превышает одного килобайта и не увеличивается с ростом N.
Надеюсь, вы знакомы с понятием сложности алгоритмов. В условии говорится, что временнáя сложность должна быть не больше линейной, а пространственная – константной. Первое достигается разовым обходом массива входных данных, второе – фиксированным размером <code>
counts</code>.
Пример:
<code>
from typing import List
...
# 3 функции выше
...
counts = get_counts(['314', '101', '242', '271', '200', '123', '345', '999'])
print(counts)
result = min_most_freq(counts)
print(result)
</code>
|
21,696 | Возврат выбранных значений из диалогового окна Toplevel в поле listbox основного окна Tkinter
Пишу небольшой GUI для обработки данных, появилась задача из списка значений, представленного в поле <code>
result_listbox</code> окна <code>
Toplevel()</code>
вернуть выделенные данные в <code>
listbox</code> главного окна интерфейса.
<code>
import tkinter as tk
from tkinter import ttk
search_result = [1, 2, 3, 4, 5, 6, 7, 8, 9]
class Toplevel(object):
def __init__(self, parent, search_result):
self.toplevel = tk.Toplevel(parent)
self.search_result = search_result
result_frame = ttk.LabelFrame(self.toplevel, width=482, height=285, text="Found Result",
relief=tk.RIDGE)
result_frame.grid(row=1, column=1, sticky=tk.E + tk.W + tk.N + tk.S)
result_frame.grid_propagate(False)
result_label = ttk.Label(result_frame, text="List:")
result_label.grid(row=1, column=1, sticky=tk.W)
result_listbox = tk.Listbox(result_frame, selectmode=tk.EXTENDED, width=65, height=10,
font="Courier 9", bg="#ADD8E6", fg="#191970")
result_listbox.grid(row=2, rowspan=3, column=1, columnspan=3,
sticky=tk.E + tk.W + tk.N + tk.S, pady=3)
add_button = ttk.Button(result_frame, text="Add",
command=lambda: add())
add_button.grid(row=6, column=1, sticky=tk.W)
close_button = ttk.Button(result_frame, text="Close", command=lambda: self.toplevel.destroy())
close_button.grid(row=6, column=3, sticky=tk.E)
for element in search_result:
result_listbox.insert(0, element)
def add():
list_numbers = list(result_listbox.get(0, "end"))
index = list(result_listbox.curselection())
selected_numbers = []
for i in index:
selected_numbers.append(list_numbers[i])
print(selected_numbers)
class Example(tk.Frame):
def __init__(self, parent):
tk.Frame.__init__(self, parent)
self.button = tk.Button(self, text="Click me!", command=self.on_click)
self.button.pack()
listbox = tk.Listbox(self, selectmode=tk.EXTENDED, width=65, height=10,
font="Courier 9", bg="#ADD8E6", fg="#191970")
listbox.pack()
def on_click(self):
result = Toplevel(self, search_result)
if __name__ == "__main__":
root = tk.Tk()
Example(root).pack(fill="both", expand=True)
root.mainloop()
</code>
Не могу сообразить как вернуть сформированный список <code>
selected_numbers</code> из диалогового окна и для вставки в поле <code>
listbox</code> основного окна
|
Нужно записать выбранный элементы в атрибут вашего класса <code>
Toplevel</code> и добавить ожидание уничтожения виджета диалогового окна с помощью метода <code>
wait_window()</code>. Примерно так:
<code>
class Toplevel(object):
def __init__(self, parent, search_result):
...
self.selected_numbers = []
def add():
list_numbers = list(result_listbox.get(0, "end"))
index = list(result_listbox.curselection())
selected_numbers = []
for i in index:
selected_numbers.append(list_numbers[i])
print(selected_numbers)
self.selected_numbers = selected_numbers
class Example(tk.Frame):
...
def on_click(self):
dialog = Toplevel(self, search_result)
dialog.toplevel.wait_window()
print('Selected:', dialog.selected_numbers)
</code>
Можно также добавить метод ожидания результата, который сам и возвращает результат (скрываем детали реализации):
<code>
class Toplevel(object):
def __init__(self, parent, search_result):
...
self.selected_numbers = []
def add():
list_numbers = list(result_listbox.get(0, "end"))
index = list(result_listbox.curselection())
selected_numbers = []
for i in index:
selected_numbers.append(list_numbers[i])
print(selected_numbers)
self.selected_numbers = selected_numbers
def wait_for_result(self):
self.toplevel.wait_window()
return self.selected_numbers
class Example(tk.Frame):
...
def on_click(self):
dialog = Toplevel(self, search_result)
print('Selected:', dialog.wait_for_result())
</code>
|
21,697 | Разные результаты у re.search и re.findall при одинаковом паттерне
<code>
import re
str = '''
139.255.50.180:8080 ID-N-S +
88.99.83.28:3128 DE-H -
96.118.254.95:8080 US-N +
'''
pattern = re.compile(r'([0-9]{1,3}[\.]){3}[0-9]{1,3}:\d{1,}')
print(pattern.search(str)[0])
print(pattern.findall(str))
</code>
результат:
<code>
>>> 139.255.50.180:8080
>>> ['50.', '83.', '254.']
</code>
К .search претензий ноль, а что не нравится .findall - почему не дает три айпишника?
|
<code>
In [73]: pattern = re.compile(r'(?:[0-9]{1,3}[\.]){3}[0-9]{1,3}:\d{1,}')
# NOTE: ----------------------> ^^
In [74]: pattern.findall(str)
Out[74]: ['139.255.50.180:8080', '88.99.83.28:3128', '96.118.254.95:8080']
</code>
цитата из официальной документации:
...
If one or more groups are present in the pattern, return a list of
groups; this will be a list of tuples if the pattern has more than one
group.
...
PS старайтесь не использовать в качестве имен переменных / классов зарезервированные имена, такие как <code>
str</code>, т.к. после этого вы не сможете использовать "затененные" функции / классы:
<code>
In [82]: str(1)
---------------------------------------------------------------------------
TypeError Traceback (most recent call last)
<ipython-input-82-5c73dd08b6cc> in <module>
----> 1 str(1)
TypeError: 'str' object is not callable
</code>
|
21,698 | Python. Проблема с двумерным списком
Имеется задачка:
Выведите таблицу размером n×n, заполненную числами от 1 до n^2 по спирали, выходящей из левого верхнего угла и закрученной по часовой стрелке
<code>
a = int(input()) # 5
rez = [[0] * a] * a
pointer = 0
ln = a
b_len = a
edge = 1
x = -1
y = 0
for i in range(a ** 2):
if pointer == 4:
pointer = 0
if pointer == 0:
x += 1
if pointer == 1:
y += 1
if pointer == 2:
x -= 1
if pointer == 3:
y -= 1
rez[x][y] = i + 1
print("rez[" + str(x) + "][" + str(y) + "] = " + str(rez[x][y]))
#прим. rez[0][0] = 1
ln -= 1
if ln == 0:
edge -= 1
pointer += 1
ln = b_len
if edge == 0:
edge = 2
b_len -= 1
ln = b_len
x = 0
y = 0
print("\n\nrez[" + str(x) + "][" + str(y) + "] = " + str(rez[x][y]) + "\n\n")
#rez[0][0] = 5
for i in rez:
print(*i)
</code>
В алгоритме я как раз хожу по спирали и заполняю двумерный список. но в результате почему-то, весь список заполняется обратной диагональю от нужного, да при встроенной проверке, ясно, что заполнение происходит правильно но потом что-то происходит. Хоть вроде не дурак, но понять проблему никак не могу
|
В этой строке Вы создали список из <code>
a</code> нулей и потом список из <code>
a</code> его копий (одного и того же списка) положили в <code>
rez</code>:
<code>
rez = [[0] * a] * a
</code>
Это легко проверить, например:
<code>
rez[0] is rez[1] # True
</code>
Видно, что элементы <code>
rez</code> - ссылки на одно и то же значение. Соответственно, когда Вы менете <code>
res[0][0]</code>, меняется и <code>
rez[1][0]</code>, и <code>
rez[2][0]</code> и т.д. вплоть до <code>
rez[a-1][0]</code>. Поэтому делайте начальный список иначе, например:
<code>
rez = [[0 for idx_y in range(a)] for idx_x in range(a)]
</code>
Это не приведёт к получению списка из ссылок на одно значение и элементы списка будут меняться по-отдельности.
|
21,699 | ошибка: OSError: [Errno 22] Invalid argument:
Выдает в консоле такую ошибку
<code>
Traceback (most recent call last):
File "D:\python\ass.py", line 48, in <module>
file1 = open(file_name_one, 'r')
OSError: [Errno 22] Invalid argument: 'Write here witch file do you want to copy?: '
</code>
вот код:
<code>
file_name_one = ('Write here witch file do you want to BACKUP?: ')
file_name_two = 'backup_' + file_name_one
file1 = open(file_name_one, 'r')
file2 = open(file_name_two, 'w')
file2.write(file1.read())
file1.close
file2.close
print("BACKUP completed successfully")
</code>
|
Банально пропустили <code>
input()</code>:
<code>
file_name_one = input('Write here witch file do you want to BACKUP?: ')
file_name_two = 'backup_' + file_name_one
file1 = open(file_name_one, 'r')
file2 = open(file_name_two, 'w')
file2.write(file1.read())
file1.close()
file2.close()
print("BACKUP completed successfully")
</code>
|
21,700 | Как преобразовать число чтобы оно имело количество значащих цифр после десятичной точки не более чем у другого числа?
Имеется 2 числа <code>
A</code> и <code>
B</code>, где число <code>
В</code> как шаблон:
<code>
A = 123.12345678
B = 0.00100000
</code>
Как сделать на Python, чтобы число <code>
А</code> имело количество значащих цифр после десятичной точки, не более чем у числа <code>
В</code>?
T.е. должно получится так:
<code>
А = 123.12300000
</code>
или так:
<code>
А = 123.123
</code>
|
Можно попробовать так:
<code>
In [52]: round(A, len(str(B).split('.')[1]))
Out[52]: 123.123
</code>
Но это будет работать не всегда из-за природы чисел с плавающей точкой:
<code>
In [56]: C = 0.1 + 0.2
In [57]: str(C)
Out[57]: '0.30000000000000004'
</code>
|
21,701 | Нахождение кадра в видеоклипе
Есть видеоклип около 3 минут длиной <code>
(1)</code>.
Есть нарезка кадров из этого клипа <code>
(2)</code>.
Надо установить точное соответствие: какой кадр из <code>
(1) = кадр из (2)</code>.
Таких клипов\нарезок довольно много, поэтому разбивать видос <code>
(1)</code> на многотысячную кучу кадров, и затем сравнивать по одному с кадрами из <code>
(2)</code> не вариант. Надо делать на лету.
Какие есть варианты? Подойдёт ли здесь <code>
cv2.VideoCapture()</code>?
ЯП python
|
достать кадры из видеопотока
<code>
reader = imageio.get_reader(pathToVideo)
arr = self.reader.get_data(nOfFrameOfVideo) # arr потому что из
# картинки надо сделать
# массив
</code>
Из картинки для сравнения надо тоже сделать массив. Передать два массива <code>
(img1, img2)</code> в функцию ниже.
Функция для сравнения двух картинок
<code>
def compareImages(self, img1, img2):
diff = img1 - img2 # поэлементная разница
norm1 = sum(abs(diff)) # сумма поэлементной разницы
norm2 = norm(diff.ravel(), 0)
return (round(norm1/self.size, 3),
round(norm2*1.0/self.size, 3))
</code>
|
21,703 | Не получается сделать класс в Python
Задача была высчитать периметр шестиугольника с помощью класса с методом. Хотелось бы попробовать сделать более универсальную и практичную программу путём введения интерактива для людей, использующих программу. К сожалению, пришёл в тупик и очень бы хотел узнать причину и решение моей задачи.
Сам код:
<code>
class Hexagon:
def __init__(self,l):
self.lenght = l
guest = input('Правильный ли шестиугольник? Да или Нет ')
if guest == 'Да':
lenght = input(int())
def calculate_perimetr(self):
return self.lenght * 6
elif guest == 'Нет':
list = []
for i in range(6):
rotate = input('Введите сторону ')
list.append(rotate)
print(list)
hexagon = Hexagon(1)
print(hexagon)
</code>
|
Предлагаю следующее решение:
<code>
class Hexagon:
def __init__(self):
self.lenght = 0
def calculate_perimetr_npr(self, params):
self.lenght = sum(params)
def calculate_perimetr_pr(self, l):
self.lenght = l * 6
guest = input('Правильный ли шестиугольник? Да или Нет\n')
if guest == 'Да':
hexagon = Hexagon()
hexagon.calculate_perimetr_pr(int(input('Введите длину стороны\n')))
print("Периметр шестиугольника равен ", hexagon.lenght)
elif guest == 'Нет':
list = []
for i in range(6):
rotate = int(input('Введите сторону '))
list.append(rotate)
hexagon = Hexagon()
hexagon.calculate_perimetr_npr(list)
print("Периметр шестиугольника равен ", hexagon.lenght)
</code>
Этот код далёк от совершенства, т.к. писался абсолютно "на скорую руку".
Чтобы не вдаваться в критику кода в вопросе, автору вопроса совет: при получении задания на определённую тему стоит разобраться в ней, прежде чем писать какой-либо код. Если тема ООП нова для Вас, следует почитать, что такое классы, зачем нужны и как с их помощью реализовать то или иное ПО. И, конечно же, ознакомиться с синтаксисом языка, на котором планируете реализовывать.
И ещё небольшое дополнение о тексте вопроса: универсальность и практичность программы не обеспечиваются включением в класс диалога с конечным пользователем программы. Пользователем класса является программист и "диалог" с ним осуществляется посредством правильного именования классов, методов и аргументов, а также грамотного комментирования кода. А функция вывода информации на экран для пользователя созданной программы либо выносится в отдельный класс (в более сложном ПО), либо прописывается в основном теле программы (в учебных программах, как Ваша).
|
21,704 | Декоратор по типу route во flask
Моя задача - сделать простой в читаемости код, который будет обрабатывать сообщение функцией, с аргументом в декораторе, равном этому сообщению
Как я это представляю:
<code>
@my_decorator(message='мое сообщение')
def hi():
print('Твое сообщение!')
process_message('мое сообщение')
# Вывод: > Твое сообщение!
</code>
Как это возможно реализовать?
|
Если я правильно понял, чего вы хотите, то так:
<code>
class MessageHandler:
_funcs = {}
def process_message(msg):
MessageHandler._funcs[msg]()
def deco(msg):
def inner_deco(func):
MessageHandler._funcs[msg] = func
return func
return inner_deco
@MessageHandler.deco(msg='мое сообщение')
def hi():
print('Твое сообщение!')
MessageHandler.process_message('мое сообщение')
# Вывод: > Твое сообщение!
</code>
Можно сделать и без класса, чтобы синтаксис был именно как в вашем вопросе, но я рекомендую использовать всё-таки класс.
И ещё - в моём случае никак не обрабатывается ситуация, в которой process_message будет вызван с сообщением, для которого не создана функция. В реальном коде этот случай стоит как-то особо обрабатывать.
|
21,707 | Найти div-ы, включающие в себя определенный класс. python selenium xpath
Есть верстка, в верстке div-ы, имеющие атрибут "class", но проблема в том, что в этом атрибуте, как правило, содержится не одно значение, а несколько (div class="class1 class2 class3..." Необходимо найти дивы, атрибут "class" которых ВКЛЮЧАЕТ ИЛИ РАВНЯЕТСЯ определенному значению.
То есть такой стандартный метод здесь не сработает:
search = driver.find_element_by_xpath("//div[@class='class2']")
Так как мне нужно найти дивы, которые включают в себя этот класс, но могут содержать и другие классы.
|
<code>
search = driver.find_element_by_xpath("//div[contains(@class, 'class2')]")
</code>
|
21,708 | Как EXE-шнику удалить самого себя?
Мне нужно написать программу которая после исполнения удалит сама себя.
Как можно это сделать?
Я написал небольшой код.
Но стоит мне его скомпилить в EXE-шник и он не работает.
Код:
<code>
import os
a = __file__
a1 = []
for i in a:
a1.append(i)
del a1[-2::]
a = ''
for i in a1:
a += str(i)
a += 'exe'
del a1
os.remove(a)
</code>
Ошибка:
<code>
Traceback(most recent call last):
File "test.py" line 15, in (module)
FileNotFoundError: [WinError2] Не удается найти указанный файл: 'test.exe'
[2204] Failed to execute script test
</code>
|
<code>
import sys
name = sys.argv[0]
print(name)
# запустив скрипт ты получишь следующее:
# E:\Python\exampeles\test.py
# запустив скомпилированную прогу ты получишь:
# E:\Python\exampeles\test.exe
# Даже когда ты потом ее переименуешь ты получишь путь к ней и ее имя
</code>
|
21,709 | Скорость работы apply в Pandas
Имеется dataframe из двух столбцов.
Группируя по первому, суммирую значения по втором. Делаю двумя способами
<code>
df.groupby('col1')['col2'].sum()
</code>
Скорость выполнения: 0,01 сек
<code>
df.groupby('col1')['col2'].apply(lambda x: x.sum())
</code>
Скорость выполнения: 4,15 сек
Почему такая разница в скорости?
Как ускорить работу, если нужна будет не просто сумма, а более сложная функция?
Например,
<code>
df.groupby('col1')['col2'].apply(lambda x: ','.join([str(i) for i in x]))
</code>
|
<code>
Series.apply()</code> и <code>
DataFrame.apply(...)</code> - являются "не совсем векторизированными" функциями, которые чаще всего значительно медленнее своих векторизированных аналогов.
К сожалению, серебрянной пули универсального и быстрого решения не существует.
Так что подход обычно следующий:
если есть вектроизированная функция для решения нашей конкретной задачи, то используем ее
сравниваем скорость работы <code>
.apply()</code> и обычного <code>
list comprehension</code> и выбираем самый быстрый вариант. NOTE: при работе со строками (<code>
object</code> dtype) <code>
list comprehension</code> часто оказывается быстрее <code>
.apply()</code> и иногда быстрее соответствующих векторизированных <code>
Series.str.<method_name></code> методов
если скорость не устраивает то пробуем один из подходов, рекоммендованных разработчиками Pandas:
Cython
Numba
pd.eval()
|
21,710 | Python selenium загрузка cookies
У меня есть куки вытащенные из другой программы можно ли их подгрузить в Python/selenium? Если да то как?
{"cookies":[{"creation":{"day_of_month":"22","day_of_week":"1","hour":"8","millisecond":"407","minute":"27","month":"4","second":"8","year":"2019"},"domain":".google.com","expires":{"day_of_month":"20","day_of_week":"4","hour":"8","millisecond":"959","minute":"38","month":"8","second":"19","year":"2020"},"has_expires":"1","httponly":"0","last_access":{"day_of_month":"22","day_of_week":"1","hour":"8","millisecond":"258","minute":"27","month":"4","second":"28","year":"2019"},"name":"SID","path":"/","secure":"0","value":"YwZsDrqtUIbbr_ytVK3W403nQdMj_DbSCrGG_YJpcd3GU98JiwMfABhsouVY6vOwumn3Lg."},{"creation":{"day_of_month":"22","day_of_week":"1","hour":"8","millisecond":"407","minute":"27","month":"4","second":"8","year":"2019"},"domain":".google.com","expires":{"day_of_month":"22","day_of_week":"1","hour":"8","millisecond":"770","minute":"28","month":"4","second":"37","year":"2019"},"name":"SIDCC","path":"/","secure":"0","value":"AN0-TYtaRheNesUAP9wJacTdOACPZXT3ReVry3G35yeCN_86gZdXQqTg4a0kyTs90_5tJHEo"}]}
|
Возможно вам поможет официальная документация selenium, в ней описано, как с помощью selenium можно работать с cookies.
Так же на подобный вопрос отвечали на англоязычном SO.
|
21,711 | Конвертация pd.Series в pd.Dataframe определенного формата
Существует одномерный массив b
<code>
b = pd.Series(
[110.0, 120.0, Horsepower]
[150.0, 175.0, Horsepower]
[1351.0, 1601.0, Capacity]
[12.0, 14.0, Metric Tons]
[1601.0, 1751.0, Capacity])
Name: fiProductClassDesc, dtype: object
</code>
Первая цифра списка - минимальное значение
Вторая цифра списка - максимальное значение
Третье значение - название категории (всего 4 шт.)
Необходимо создать из него <code>
a = pd.Dataframe</code>, всего 8 колонок, где для каждой строки, значения будут присвоены только тем колонкам, для которых совпадает название категории и лэйбла колонки. Остальные 0.
<code>
Digging Depth_min Digging Depth_max Metric Tons_min Metric Tons_max Horsepower_min Horsepower_max Capacity_min Capacity_max
0 0 0 0 110 120 0 0
0 0 0 0 150 175 0 0
0 0 0 0 0 0 1351 1601
0 0 12 14 0 0 0 0
0 0 0 0 0 0 1601 1751
</code>
|
Я бы делал это так:
<code>
x = pd.DataFrame(b.to_list()).rename(columns={0: "min", 1: "max"})
res = x.pivot_table(index=x.index, columns=2, fill_value=0).swaplevel(axis=1)
res.columns = res.columns.map("_".join)
res = res.sort_index(axis=1, ascending=False)
</code>
результат:
<code>
In [115]: res
Out[115]:
Metric Tons_min Metric Tons_max Horsepower_min Horsepower_max Capacity_min Capacity_max
0 0 0 110 120 0 0
1 0 0 150 175 0 0
2 0 0 0 0 1351 1601
3 12 14 0 0 0 0
4 0 0 0 0 1601 1751
</code>
PS думаю добавить нулевые столбцы <code>
Digging Depth_min</code> и <code>
Digging Depth_max</code> проблем не составит
пошаговое решение:
<code>
In [116]: pd.DataFrame(b.to_list()).rename(columns={0: "min", 1: "max"})
Out[116]:
min max 2
0 110.0 120.0 Horsepower
1 150.0 175.0 Horsepower
2 1351.0 1601.0 Capacity
3 12.0 14.0 Metric Tons
4 1601.0 1751.0 Capacity
In [117]: x.pivot_table(index=x.index, columns=2, fill_value=0).swaplevel(axis=1)
Out[117]:
2 Capacity Horsepower Metric Tons Capacity Horsepower Metric Tons
max max max min min min
0 0 120 0 0 110 0
1 0 175 0 0 150 0
2 1601 0 0 1351 0 0
3 0 0 14 0 0 12
4 1751 0 0 1601 0 0
In [120]: res
Out[120]:
Capacity_max Horsepower_max Metric Tons_max Capacity_min Horsepower_min Metric Tons_min
0 0 120 0 0 110 0
1 0 175 0 0 150 0
2 1601 0 0 1351 0 0
3 0 0 14 0 0 12
4 1751 0 0 1601 0 0
In [121]: res.sort_index(axis=1, ascending=False)
Out[121]:
Metric Tons_min Metric Tons_max Horsepower_min Horsepower_max Capacity_min Capacity_max
0 0 0 110 120 0 0
1 0 0 150 175 0 0
2 0 0 0 0 1351 1601
3 12 14 0 0 0 0
4 0 0 0 0 1601 1751
</code>
|
21,713 | Перевод в integer число, для которого в list указанны индексы единичных бит
Как можно без цикла и быстро перевести в integer число, для которого в list указанны индексы единичных бит. Интересная и обратная операция.
Например:
<code>
List = [20, 80, 1] указаны позиции единичных бит.
Ожидаемый результат 2^20+2^80+2^1=1208925819614629175754754
</code>
|
быстрые (векторизированные) функции, которые написаны на C / Cython работают со строго-типизированными данными, где максимальной точностью для целых чисел является <code>
np.uint64</code>, которые в свою очередь должны лежать в диапазоне <code>
[0, 2^64-1]</code>.
<code>
In [31]: np.iinfo(np.uint64)
Out[31]: iinfo(min=0, max=18446744073709551615, dtype=uint64)
In [32]: 2**64 - 1
Out[32]: 18446744073709551615
</code>
Соответственно если вы хотите возвести <code>
2</code> в степень большую <code>
63</code> вам придется использовать медленную реализацию <code>
Vanilla Python</code>.
Для чисел которые попадают в диапазон <code>
int64</code> или <code>
unint64</code> можно использовать методы Numpy:
<code>
In [33]: lst = [20, 60, 1]
In [34]: np.power(2, lst, dtype="int64").sum()
Out[34]: 1152921504607895554
</code>
Медленная реализация:
<code>
res = sum(2**i for i in lst)
</code>
|
21,714 | Перезапуск Python программы
Непрерывно выполняется Python-программа. Нужно перезапустить её через командную строку, либо через <code>
subprocess.call()</code>.
Вручную, я бы это осуществил с помощью Ctrl + C.
Есть какие либо аналоги?
|
Посмотри на Systemd
Systemd запускает сервисы описанные в его конфигурации.
Конфигурация состоит из множества файлов, которые называются юнитами.
/etc/systemd/system/ - сохраняешь здесь свой юнит.
Описываешь три секции: [Unit], [Service], [Install]
Команды на старт/стоп и релоад сервиса:
<code>
ExecStart=/usr/local/bin/bundle exec service -C /work/www/myunit/shared/config/service.rb --daemon
ExecStop=/usr/local/bin/bundle exec service -S /work/www/myunit/shared/tmp/pids/service.state stop
ExecReload=/usr/local/bin/bundle exec service -S /work/www/myunit/shared/tmp/pids/service.state restart
</code>
Попросим systemd автоматически рестартовать наш сервис, если он вдруг перестанет работать.
<code>
Restart=always
</code>
Смотрим его статус
<code>
systemctl enable myunit - Разрешить сервис
systemctl status myunit - Проверка статуса
systemctl start myunit - Запуск сервиса
systemctl daemon-reload - Перезапуск сервиса
</code>
|
Subsets and Splits
No saved queries yet
Save your SQL queries to embed, download, and access them later. Queries will appear here once saved.