select两个date之间的dataframe行
我从csv创build一个数据框如下:
stock = pd.read_csv('data_in/' + filename + '.csv', skipinitialspace=True)
数据框有一个date列。 有没有办法创build一个新的数据框(或只是覆盖现有的)只包含行之间的特定date范围?
有两种可能的解决scheme:
- 使用布尔掩码,然后使用
df.loc[mask]
- 将date列设置为DatetimeIndex,然后使用
df[start_date : end_date]
使用布尔掩码 :
确保df['date']
是一个dtype为datetime64[ns]
的系列:
df['date'] = pd.to_datetime(df['date'])
做一个布尔掩码。 start_date
和end_date
可以是datetime.datetime
s, np.datetime64
s, pd.Timestamp
s,甚至是datetimestring:
mask = (df['date'] > start_date) & (df['date'] <= end_date)
select子DataFrame:
df.loc[mask]
或者重新分配给df
df = df.loc[mask]
例如,
import numpy as np import pandas as pd df = pd.DataFrame(np.random.random((200,3))) df['date'] = pd.date_range('2000-1-1', periods=200, freq='D') mask = (df['date'] > '2000-6-1') & (df['date'] <= '2000-6-10') print(df.loc[mask])
产量
0 1 2 date 153 0.208875 0.727656 0.037787 2000-06-02 154 0.750800 0.776498 0.237716 2000-06-03 155 0.812008 0.127338 0.397240 2000-06-04 156 0.639937 0.207359 0.533527 2000-06-05 157 0.416998 0.845658 0.872826 2000-06-06 158 0.440069 0.338690 0.847545 2000-06-07 159 0.202354 0.624833 0.740254 2000-06-08 160 0.465746 0.080888 0.155452 2000-06-09 161 0.858232 0.190321 0.432574 2000-06-10
使用DatetimeIndex :
如果您要按date进行大量select,则可以更快地将date
列设置为索引。 然后,您可以使用df.loc[start_date:end_date]
按dateselect行。
import numpy as np import pandas as pd df = pd.DataFrame(np.random.random((200,3))) df['date'] = pd.date_range('2000-1-1', periods=200, freq='D') df = df.set_index(['date']) print(df.loc['2000-6-1':'2000-6-10'])
产量
0 1 2 date 2000-06-01 0.040457 0.326594 0.492136 # <- includes start_date 2000-06-02 0.279323 0.877446 0.464523 2000-06-03 0.328068 0.837669 0.608559 2000-06-04 0.107959 0.678297 0.517435 2000-06-05 0.131555 0.418380 0.025725 2000-06-06 0.999961 0.619517 0.206108 2000-06-07 0.129270 0.024533 0.154769 2000-06-08 0.441010 0.741781 0.470402 2000-06-09 0.682101 0.375660 0.009916 2000-06-10 0.754488 0.352293 0.339337
虽然Python列表索引,例如seq[start:end]
包含start
但不是end
,相反,Pandas df.loc[start_date : end_date]
包含结果中的两个端点(如果它们在索引中)。 但是, start_date
和end_date
都不在索引中。
另请注意, pd.read_csv
有一个parse_dates
参数 ,您可以使用该参数将date
列parsing为datetime64
。 因此,如果使用parse_dates
,则不需要使用df['date'] = pd.to_datetime(df['date'])
。
我觉得最好的select是使用直接检查,而不是使用loc函数:
df = df[(df['date'] > '2000-6-1') & (df['date'] <= '2000-6-10')]
它适用于我。
使用loc函数的一个主要问题是限制应该存在于实际值中,否则将导致KeyError。
您可以在date
列上使用isin
方法,就像df[df["date"].isin(pd.date_range(start_date, end_date))]
例:
import numpy as np import pandas as pd # Make a DataFrame with dates and random numbers df = pd.DataFrame(np.random.random((30, 3))) df['date'] = pd.date_range('2017-1-1', periods=30, freq='D') # Select the rows between two dates in_range_df = df[df["date"].isin(pd.date_range("2017-01-15", "2017-01-20"))] print(in_range_df) # print result
这使
0 1 2 date 14 0.960974 0.144271 0.839593 2017-01-15 15 0.814376 0.723757 0.047840 2017-01-16 16 0.911854 0.123130 0.120995 2017-01-17 17 0.505804 0.416935 0.928514 2017-01-18 18 0.204869 0.708258 0.170792 2017-01-19 19 0.014389 0.214510 0.045201 2017-01-20
如果你要经常这样做,最好的解决scheme是首先将date列设置为索引,该索引将转换DateTimeIndex中的列,并使用以下条件来切割任意范围的date。
import pandas as pd data_frame = data_frame.set_index('date') df = data_frame[(data_frame.index > '2017-08-10') & (data_frame.index <= '2017-08-15')]