Вставьте кадр данных Pandas в mongodb, используя PyMongo

Я сомневаюсь, что существует как самый быстрый, так и простой метод. Если вы не беспокоитесь о преобразовании данных, вы можете сделать

>>> import json
>>> df = pd.DataFrame.from_dict({'A': {1: datetime.datetime.now()}})
>>> df
                           A
1 2013-11-23 21:14:34.118531

>>> records = json.loads(df.T.to_json()).values()
>>> db.myCollection.insert(records)

Но если вы попытаетесь загрузить данные обратно, вы получу:

>>> df = read_mongo(db, 'myCollection')
>>> df
                     A
0  1385241274118531000
>>> df.dtypes
A    int64
dtype: object

поэтому вам придется преобразовать столбец «A» обратно в datetimes, а также все поля, отличные от int, float или str, в вашем DataFrame. Для этого примера:

>>> df['A'] = pd.to_datetime(df['A'])
>>> df
                           A
0 2013-11-23 21:14:34.118531

Здесь у вас есть самый быстрый способ. Используя insert_many метод из pymongo 3 и параметр 'records' в to_dict метод.

db.collection.insert_many(df.to_dict('records'))

odo может сделать это, используя

odo(df, db.myCollection)

Если в вашем фрейме данных отсутствуют данные (например, None, nan), и вы не хотите, чтобы в ваших документах были нулевые значения ключа:

db.insert_many(df.to_dict("records")) будет вставлять ключи с нулевыми значениями. Если вам не нужны пустые значения ключей в ваших документах, вы можете использовать модифицированную версию кода pandas .to_dict("records") ниже:

from pandas.core.common import _maybe_box_datetimelike
my_list = [dict((k, _maybe_box_datetimelike(v)) for k, v in zip(df.columns, row) if v != None and v == v) for row in df.values]
db.insert_many(my_list)

где if v != None and v == v я добавил проверки, чтобы убедиться, что значение не равно None или nan, прежде чем помещать его в словарь строки. Теперь ваш .insert_many будет включать только ключи со значениями в документах (и не null типы данных).

Я думаю, что в этом вопросе есть классные идеи. В моем случае я тратил больше времени на перемещение больших фреймов данных. В этом случае pandas, как правило, позволяет вам выбрать chunksize (например, в pandas.DataFrame.to_sql). Поэтому я думаю, что могу внести свой вклад, добавив функцию, которую я использую в этом направлении.

def write_df_to_mongoDB(  my_df,\
                          database_name = 'mydatabasename' ,\
                          collection_name = 'mycollectionname',
                          server = 'localhost',\
                          mongodb_port = 27017,\
                          chunk_size = 100):
    #"""
    #This function take a list and create a collection in MongoDB (you should
    #provide the database name, collection, port to connect to the remoete database,
    #server of the remote database, local port to tunnel to the other machine)
    #
    #---------------------------------------------------------------------------
    #Parameters / Input
    #    my_list: the list to send to MongoDB
    #    database_name:  database name
    #
    #    collection_name: collection name (to create)
    #    server: the server of where the MongoDB database is hosted
    #        Example: server = 'XXX.XXX.XX.XX'
    #    this_machine_port: local machine port.
    #        For example: this_machine_port = '27017'
    #    remote_port: the port where the database is operating
    #        For example: remote_port = '27017'
    #    chunk_size: The number of items of the list that will be send at the
    #        some time to the database. Default is 100.
    #
    #Output
    #    When finished will print "Done"
    #----------------------------------------------------------------------------
    #FUTURE modifications.
    #1. Write to SQL
    #2. Write to csv
    #----------------------------------------------------------------------------
    #30/11/2017: Rafael Valero-Fernandez. Documentation
    #"""



    #To connect
    # import os
    # import pandas as pd
    # import pymongo
    # from pymongo import MongoClient

    client = MongoClient('localhost',int(mongodb_port))
    db = client[database_name]
    collection = db[collection_name]
    # To write
    collection.delete_many({})  # Destroy the collection
    #aux_df=aux_df.drop_duplicates(subset=None, keep='last') # To avoid repetitions
    my_list = my_df.to_dict('records')
    l =  len(my_list)
    ran = range(l)
    steps=ran[chunk_size::chunk_size]
    steps.extend([l])

    # Inser chunks of the dataframe
    i = 0
    for j in steps:
        print j
        collection.insert_many(my_list[i:j]) # fill de collection
        i = j

    print('Done')
    return

как насчет этого:

db.myCollection.insert({id: df.to_json()})

id будет уникальной строкой для этого df

Просто сделайте струнные ключи!

import json
dfData = json.dumps(df.to_dict('records'))
savaData = {'_id': 'a8e42ed79f9dae1cefe8781760231ec0', 'df': dfData}
res = client.insert_one(savaData)

##### load dfData
data = client.find_one({'_id': 'a8e42ed79f9dae1cefe8781760231ec0'}).get('df')
dfData = json.loads(data)
df = pd.DataFrame.from_dict(dfData)

Если вы хотите отправить несколько одновременно:

db.myCollection.insert_many(df.apply(lambda x: x.to_dict(), axis=1).to_list())

Если вы хотите убедиться, что вы не вызываете ошибки InvalidDocument, хорошей идеей будет что-то вроде следующего. Это связано с тем, что монго не распознает такие типы, как np.int64, np.float64 и т. д.

from pymongo import MongoClient
client = MongoClient()
db = client.test 
col = db.col


def createDocsFromDF(df, collection = None, insertToDB=False):
    docs = [] 
    fields = [col for col in df.columns]
    for i in range(len(df)):
        doc = {col:df[col][i] for col in df.columns if col != 'index'}
        for key, val in doc.items():
            # we have to do this, because mongo does not recognize these np. types
            if type(val) == np.int64:
                doc[key] = int(val)
            if type(val) == np.float64:
                doc[key] = float(val)
            if type(val) == np.bool_:
                doc[key] = bool(val)
        docs.append(doc) 
    if insertToDB and collection:
        db.collection.insert_many(docs)
    return docs 

Я использую следующую часть, чтобы вставить фрейм данных в коллекцию в базе данных.

df.reset_index(inplace=True)
data_dict = df.to_dict("records")
myCollection.insert_many(data_dict)